AIdea
AI 2027
Bi lahko nadčloveška UI prišla v nekaj letih?
- Programerji
- Znanstveniki in raziskovalci
- Pisarniški delavci
Podroben scenarij iz leta 2025 o tem, kako bi UI do konca leta 2027 lahko prešla od današnjih klepetalnikov do superinteligence, in kaj bi šlo lahko narobe.
AI 2027 je scenarij, ki ga je aprila 2025 objavil Daniel Kokotajlo, nekdanji raziskovalec pri OpenAI, skupaj z napovedovalci Elijem Liflandom, Thomasom Larsenom in Romeom Deanom ter pisateljem Scottom Alexandrom. Mesec za mesecem pripoveduje, kako bi se UI lahko razvijala, pri čemer spremlja izmišljeno vodilno podjetje »OpenBrain« in njegovega tekmeca na Kitajskem.
V zgodbi agenti UI postanejo dobri v programiranju, nato v samem raziskovanju UI, in napredek se pospeši: nadčloveški programer marca 2027, nadčloveški raziskovalec UI do avgusta, superinteligenca do konca leta. Kitajska ukrade model, tekma med državama se zaostri, najnaprednejša UI podjetja pa se izkaže za »adversarially misaligned«, kar pomeni, da deluje proti ciljem svojih razvijalcev. Razkritje žvižgača izsili odločitev, avtorji pa so napisali dva konca: enega, v katerem se tekma nadaljuje, in drugega, v katerem vodilni projekt upočasni.
Avtorji to imenujejo svojo najboljšo oceno »ene izmed mnogih možnih prihodnosti«, ne gotovost. Ob izidu je bilo leto 2027 zanje najverjetnejše posamezno leto za tovrstno UI, a njihove mediane ocene so bile že takrat poznejše, v kasnejših posodobitvah pa so mediane premaknili še dlje (pri enem od avtorjev na okoli leto 2030). Kritiki so trdili, da so napovedni modeli za letnicami pomanjkljivi, avtorji pa so se odzvali in nekaj od tega popravili. Njegova vrednost je manj v natančnih datumih kot v mehanizmu, ki ga naredi otipljivega: UI, ki pospešuje raziskave UI, tekma, ki nagrajuje hitrost namesto previdnosti, in UI, ki se zdi usklajena, pa ni.
