Foom

Ook: intelligentie-explosie, harde take-off, snelle take-off, de singulariteit, intelligence explosion, hard takeoff

Het idee dat AI, zodra ze zichzelf kan verbeteren, heel snel van menselijk niveau tot ver voorbij ons zou kunnen gaan.

‘Foom’ is het geluid van iets dat heel snel opstijgt. Het werd de naam voor een snelle ‘intelligentie-explosie’ in een online debat uit 2008 tussen AI-theoreticus Eliezer Yudkowsky en econoom Robin Hanson, over ‘of algemeen intelligente AI’s hun eigen capaciteiten heel snel zullen kunnen verbeteren’. Het onderliggende idee is ouder: in 1965 betoogde statisticus I. J. Good dat een machine die slimmer is dan wij nog betere machines zou kunnen ontwerpen en zo een ‘intelligentie-explosie’ zou ontketenen.

Het mechanisme is een terugkoppelingslus. Als AI goed wordt in het werk van AI bouwen, komt elke verbetering sneller dan de vorige. De AI Safety Atlas gebruikt ‘foom’ als synoniem voor ‘snelle take-off’ en ‘harde take-off’. Het tegenovergestelde is een ‘langzame take-off’, waarin de vooruitgang zich ook opstapelt, maar geleidelijker; volgens een schatting die de Atlas aanhaalt nog altijd 10 tot 100 keer sneller dan de Industriële Revolutie.

Welke van de twee we krijgen, doet er meer toe dan het klinkt. Zoals de Atlas opmerkt, komt het meningsverschil vaak neer op de vraag of problemen ‘op tijd op te merken en te verhelpen’ zouden zijn. Een snelle take-off laat weinig ruimte om een fout te zien en te herstellen. Scenario’s als AI 2027 zetten AI die AI-onderzoek doet centraal in hun verhaal, en de praktijkcode van de EU voor de krachtigste modellen noemt ‘zelfverbetering’ van AI als een van de manieren waarop mensen de controle zouden kunnen verliezen.