Foom

Anche: esplosione di intelligenza, decollo brusco, decollo rapido, la singolarità, intelligence explosion, hard takeoff

L’idea che, una volta in grado di migliorarsi da sola, l’IA potrebbe passare molto in fretta dal livello umano a ben oltre.

«Foom» è il suono di qualcosa che decolla molto in fretta. È diventato il nome di una rapida «esplosione di intelligenza» in un dibattito online del 2008 tra il teorico dell’IA Eliezer Yudkowsky e l’economista Robin Hanson, sulla questione «se le IA dotate di intelligenza generale saranno in grado di migliorare le proprie capacità molto rapidamente». L’idea di fondo è più antica: nel 1965 lo statistico I. J. Good sostenne che una macchina più intelligente di noi potrebbe progettare macchine ancora migliori, innescando un’«esplosione di intelligenza».

Il meccanismo è un circolo di retroazione. Se l’IA diventa brava nel lavoro di costruire IA, ogni miglioramento fa arrivare prima il successivo. L’AI Safety Atlas usa «foom» come sinonimo di «decollo rapido» e «decollo brusco». La posizione opposta è un «decollo lento», in cui il progresso cresce comunque su sé stesso, ma più gradualmente; secondo una stima citata dall’Atlas, pur sempre da 10 a 100 volte più veloce della rivoluzione industriale.

Quale dei due si verificherà conta più di quanto sembri. Come nota l’Atlas, il disaccordo spesso si riduce a capire se i problemi sarebbero «individuabili e correggibili in tempo». Un decollo rapido lascia poco margine per accorgersi di un errore e correggerlo. Scenari come AI 2027 mettono al centro della loro storia l’IA che fa ricerca sull’IA, e il codice di buone pratiche dell’UE per i modelli più capaci elenca l’«auto-miglioramento» dell’IA tra i modi in cui gli esseri umani potrebbero perderne il controllo.