Foom

Aj: explózia inteligencie, tvrdý vzlet, rýchly vzlet, singularita, intelligence explosion, hard takeoff

Myšlienka, že keď sa AI dokáže sama zlepšovať, mohla by sa veľmi rýchlo dostať z ľudskej úrovne ďaleko za nás.

„Foom“ je zvuk niečoho, čo veľmi rýchlo vzlieta. Tak sa začalo hovoriť rýchlej „explózii inteligencie“ v online debate z roku 2008 medzi teoretikom AI Eliezerom Yudkowským a ekonómom Robinom Hansonom o tom, „či všeobecne inteligentné AI budú schopné veľmi rýchlo zlepšovať svoje vlastné schopnosti“. Samotná myšlienka je staršia: v roku 1965 štatistik I. J. Good tvrdil, že stroj múdrejší ako my by mohol navrhovať ešte lepšie stroje a spustiť tak „explóziu inteligencie“.

Mechanizmom je spätná väzba. Ak sa AI zlepší v práci na vývoji AI, každé zlepšenie privedie ďalšie rýchlejšie. AI Safety Atlas používa „foom“ ako synonymum „rýchleho vzletu“ a „tvrdého vzletu“. Opačný názor je „pomalý vzlet“, pri ktorom sa pokrok tiež sčítava, ale postupnejšie; podľa jedného odhadu, ktorý Atlas cituje, stále 10 až 100-krát rýchlejšie než priemyselná revolúcia.

Na tom, ktorý z nich nastane, záleží viac, než sa zdá. Ako Atlas poznamenáva, spor sa často zužuje na to, či by problémy boli „včas zistiteľné a opraviteľné“. Rýchly vzlet necháva málo priestoru chybu odhaliť a napraviť. Scenáre ako AI 2027 stavajú do stredu svojho príbehu AI, ktorá robí výskum AI, a kódex postupov EÚ pre najschopnejšie modely uvádza „sebazdokonaľovanie“ AI medzi spôsobmi, ako by ľudia mohli stratiť kontrolu.