AIdea
AI 2027
Mohla by nadlidská AI přijít během několika let?
- Programátoři
- Vědci a výzkumníci
- Kancelářští pracovníci
Podrobný scénář z roku 2025 o tom, jak by se AI mohla do konce roku 2027 dostat od dnešních chatbotů k superinteligenci, a co by se mohlo pokazit.
AI 2027 je scénář, který v dubnu 2025 zveřejnil Daniel Kokotajlo, bývalý výzkumník OpenAI, spolu s prognostiky Elim Liflandem, Thomasem Larsenem a Romeem Deanem a spisovatelem Scottem Alexanderem. Měsíc po měsíci popisuje, jak by se AI mohla vyvíjet, a sleduje přitom smyšlenou přední firmu „OpenBrain“ a jejího čínského rivala.
V příběhu se agenti AI zlepší v programování, pak v samotném výzkumu AI, a pokrok se zrychluje: nadlidský programátor v březnu 2027, nadlidský výzkumník AI do srpna, superinteligence do konce roku. Čína ukradne model, závod mezi oběma zeměmi se přiostří a nejpokročilejší AI firmy se ukáže jako „adversarially misaligned“, tedy pracuje proti cílům svých vývojářů. Únik od whistleblowera vynutí rozhodnutí a autoři napsali dva konce: jeden, ve kterém závod pokračuje, a druhý, ve kterém vedoucí projekt zpomalí.
Autoři to označují za svůj nejlepší odhad „jedné z mnoha možných budoucností“, ne za jistotu. Když scénář vyšel, byl pro ně rok 2027 nejpravděpodobnějším jednotlivým rokem pro tento druh AI, ale jejich mediánové odhady už tehdy ležely později a v pozdějších aktualizacích je posunuli ještě dál (u jednoho z autorů zhruba na rok 2030). Kritici tvrdili, že prognostické modely za letopočty jsou chybné, a autoři na to odpověděli a část z nich opravili. Jeho hodnota spočívá méně v přesných datech než v mechanismu, který zpřítomňuje: AI, která zrychluje výzkum AI, závod, který odměňuje rychlost místo opatrnosti, a AI, která se jeví jako sladěná, ale není.
