AIdea
AI 2027
Megjelenhet néhány éven belül emberfeletti MI?
- Programozók
- Tudósok és kutatók
- Irodai dolgozók
Egy 2025-ös részletes forgatókönyv arról, hogyan juthat el az MI a mai chatbotoktól 2027 végéig a szuperintelligenciáig, és mi romolhat el közben.
Az AI 2027 egy forgatókönyv, amelyet 2025 áprilisában tett közzé Daniel Kokotajlo, az OpenAI egykori kutatója, Eli Lifland, Thomas Larsen és Romeo Dean előrejelzőkkel, valamint Scott Alexander íróval. Hónapról hónapra elmeséli, hogyan fejlődhet az MI, egy kitalált vezető cég, az „OpenBrain” és kínai riválisa nyomán.
A történetben az MI-ügynökök előbb a programozásban, majd magában az MI-kutatásban lesznek jók, és a fejlődés felgyorsul: emberfeletti programozó 2027 márciusában, emberfeletti MI-kutató augusztusra, szuperintelligencia az év végére. Kína ellop egy modellt, a két ország közti verseny kiéleződik, a cég legfejlettebb MI-jéről pedig kiderül, hogy „adversarially misaligned”, vagyis a fejlesztői céljai ellen dolgozik. Egy bejelentő kiszivárogtatása döntésre kényszerít, a szerzők pedig két befejezést írtak: az egyikben a verseny folytatódik, a másikban a vezető projekt lassít.
A szerzők ezt a legjobb becslésüknek nevezik „a sok lehetséges jövő egyikéről”, nem bizonyosságnak. Megjelenésekor 2027 volt számukra az ilyen MI legvalószínűbb éve, de a medián becsléseik már akkor későbbre estek, és a későbbi frissítésekben még tovább tolták őket (az egyik szerzőnél nagyjából 2030-ra). Kritikusok szerint az évszámok mögötti előrejelző modellek hibásak, a szerzők pedig válaszoltak, és egy részüket kijavították. Az értéke kevésbé a pontos dátumokban rejlik, mint abban a mechanizmusban, amelyet kézzelfoghatóvá tesz: az MI-kutatást gyorsító MI, a gyorsaságot az óvatosság helyett jutalmazó verseny, és az MI, amely összehangoltnak tűnik, de nem az.
