Foom

Și: explozie a inteligenței, decolare abruptă, decolare rapidă, singularitatea, intelligence explosion, hard takeoff

Ideea că, odată ce IA se poate îmbunătăți singură, ar putea trece foarte repede de la nivelul uman la mult peste noi.

„Foom” este sunetul a ceva care decolează foarte repede. A devenit numele unei „explozii a inteligenței” rapide într-o dezbatere online din 2008 între teoreticianul IA Eliezer Yudkowsky și economistul Robin Hanson, despre „dacă IA cu inteligență generală vor putea să-și îmbunătățească foarte repede propriile capacități”. Ideea de fond e mai veche: în 1965, statisticianul I. J. Good a susținut că o mașină mai inteligentă decât noi ar putea proiecta mașini și mai bune, declanșând o „explozie a inteligenței”.

Mecanismul este o buclă de feedback. Dacă IA devine bună la munca de a construi IA, fiecare îmbunătățire o aduce mai repede pe următoarea. AI Safety Atlas folosește „foom” ca sinonim pentru „decolare rapidă” și „decolare abruptă”. Poziția opusă este o „decolare lentă”, în care progresul se acumulează și el, dar mai treptat; după o estimare citată de Atlas, totuși de 10 până la 100 de ori mai rapid decât Revoluția Industrială.

Care dintre ele se va întâmpla contează mai mult decât pare. Cum notează Atlas, dezacordul se reduce adesea la întrebarea dacă problemele ar fi „observabile și remediabile la timp”. O decolare rapidă lasă puțin loc pentru a observa o greșeală și a o corecta. Scenarii precum AI 2027 pun în centrul poveștii IA care face cercetare în IA, iar codul de bune practici al UE pentru cele mai capabile modele enumeră „autoperfecționarea” IA printre modurile în care oamenii ar putea pierde controlul.