Foom

Más néven: intelligenciarobbanás, kemény felszállás, gyors felszállás, szingularitás, intelligence explosion, hard takeoff

Az az elképzelés, hogy ha az MI képes lesz önmagát fejleszteni, nagyon gyorsan eljuthat az emberi szintről messze fölénk.

A „foom” a nagyon gyorsan felszálló valami hangja. Így nevezték el a gyors „intelligenciarobbanást” egy 2008-as online vitában Eliezer Yudkowsky MI-teoretikus és Robin Hanson közgazdász között arról, hogy „képesek lesznek-e az általános intelligenciájú MI-k nagyon gyorsan fejleszteni saját képességeiket”. Az alapgondolat régebbi: 1965-ben I. J. Good statisztikus amellett érvelt, hogy egy nálunk okosabb gép még jobb gépeket tervezhetne, ezzel „intelligenciarobbanást” indítva el.

A mechanizmus egy visszacsatolási hurok. Ha az MI jó lesz az MI-építés munkájában, minden fejlesztés gyorsabban hozza el a következőt. Az AI Safety Atlas a „foom” szót a „gyors felszállás” és a „kemény felszállás” szinonimájaként használja. Az ellentétes nézet a „lassú felszállás”, amelyben a fejlődés szintén egymásra épül, de fokozatosabban; az Atlas által idézett egyik becslés szerint így is 10–100-szor gyorsabban, mint az ipari forradalom.

Hogy melyik következik be, az fontosabb, mint amilyennek hangzik. Ahogy az Atlas megjegyzi, a vita gyakran azon múlik, hogy a problémák „időben észrevehetők és javíthatók” lennének-e. A gyors felszállás kevés teret hagy egy hiba észrevételére és kijavítására. Az olyan forgatókönyvek, mint az AI 2027, a történetük középpontjába az MI-kutatást végző MI-t helyezik, az EU gyakorlati kódexe pedig a legképesebb modellekre vonatkozóan az MI „önfejlesztését” is felsorolja azon utak között, amelyeken az emberek elveszíthetik az irányítást.