Foom

Tudi: eksplozija inteligence, trdi vzlet, hitri vzlet, singularnost, intelligence explosion, hard takeoff

Zamisel, da bi UI, ko bi se lahko sama izboljševala, zelo hitro prešla od človeške ravni daleč čez nas.

»Foom« je zvok nečesa, kar zelo hitro vzleti. Tako so poimenovali hitro »eksplozijo inteligence« v spletni razpravi leta 2008 med teoretikom UI Eliezerjem Yudkowskim in ekonomistom Robinom Hansonom o tem, »ali bodo splošno inteligentni sistemi UI lahko zelo hitro izboljševali lastne zmožnosti«. Osnovna zamisel je starejša: leta 1965 je statistik I. J. Good trdil, da bi stroj, pametnejši od nas, lahko zasnoval še boljše stroje in tako sprožil »eksplozijo inteligence«.

Mehanizem je povratna zanka. Če UI postane dobra pri delu, ki je potrebno za gradnjo UI, vsaka izboljšava pripelje naslednjo hitreje. AI Safety Atlas uporablja »foom« kot sopomenko za »hitri vzlet« in »trdi vzlet«. Nasprotno stališče je »počasni vzlet«, pri katerem se napredek prav tako sešteva, a bolj postopoma; po eni od ocen, ki jih navaja Atlas, še vedno 10- do 100-krat hitreje kot industrijska revolucija.

Kateri od obeh se bo zgodil, je pomembnejše, kot se sliši. Kot ugotavlja Atlas, se nesoglasje pogosto zvede na vprašanje, ali bi bile težave »pravočasno opazne in popravljive«. Hitri vzlet pušča malo prostora, da napako opazimo in popravimo. Scenariji, kot je AI 2027, v središče svoje zgodbe postavljajo UI, ki raziskuje UI, kodeks ravnanja EU za najzmogljivejše modele pa »samoizboljševanje« UI navaja med načini, kako bi ljudje lahko izgubili nadzor.