Foom

Taip pat: intelekto sprogimas, staigus pakilimas, greitas pakilimas, singuliarumas, intelligence explosion, hard takeoff

Idėja, kad kai DI galės pats save tobulinti, jis galėtų labai greitai pakilti nuo žmogaus lygio toli virš mūsų.

„Foom“ – tai labai greitai kylančio daikto garsas. Taip buvo pavadintas greitas „intelekto sprogimas“ 2008 m. internetinėje diskusijoje tarp DI teoretiko Eliezerio Yudkowsky ir ekonomisto Robino Hansono apie tai, „ar bendrojo intelekto DI galės labai greitai tobulinti savo gebėjimus“. Pagrindinė idėja senesnė: 1965 m. statistikas I. J. Goodas teigė, kad už mus protingesnė mašina galėtų suprojektuoti dar geresnes mašinas ir taip sukelti „intelekto sprogimą“.

Mechanizmas – grįžtamojo ryšio ciklas. Jei DI taps geras DI kūrimo darbe, kiekvienas patobulinimas atneš kitą greičiau. AI Safety Atlas vartoja „foom“ kaip „greito pakilimo“ ir „staigaus pakilimo“ sinonimą. Priešinga pozicija yra „lėtas pakilimas“, kai pažanga taip pat kaupiasi, tik palaipsniui; pagal vieną Atlas cituojamą įvertį vis tiek 10–100 kartų greičiau nei pramonės revoliucija.

Kuris iš jų įvyks, svarbiau, nei atrodo. Kaip pažymi Atlas, nesutarimas dažnai susiveda į tai, ar problemos būtų „laiku pastebimos ir ištaisomos“. Greitas pakilimas palieka mažai vietos klaidai pastebėti ir ištaisyti. Tokie scenarijai kaip AI 2027 į savo pasakojimo centrą stato DI, kuris atlieka DI tyrimus, o ES praktikos kodeksas pajėgiausiems modeliams DI „savitobulinimą“ nurodo tarp būdų, kaip žmonės galėtų prarasti kontrolę.