AIdea
Foom
Kunne AI forbedre sig selv så hurtigt, at vi ikke kan følge med?
Også: intelligenseksplosion, hård take-off, hurtig take-off, singulariteten, intelligence explosion, hard takeoff
Idéen om, at når AI først kan forbedre sig selv, kunne den meget hurtigt gå fra menneskeligt niveau til langt forbi os.
»Foom« er lyden af noget, der letter meget hurtigt. Det blev navnet på en hurtig »intelligenseksplosion« i en onlinedebat fra 2008 mellem AI-teoretikeren Eliezer Yudkowsky og økonomen Robin Hanson om, »hvorvidt generelt intelligente AI’er vil kunne forbedre deres egne evner meget hurtigt«. Grundidéen er ældre: I 1965 argumenterede statistikeren I. J. Good for, at en maskine, der er klogere end os, kunne designe endnu bedre maskiner og dermed udløse en »intelligenseksplosion«.
Mekanismen er en feedbacksløjfe. Hvis AI bliver god til arbejdet med at bygge AI, kommer hver forbedring hurtigere end den forrige. AI Safety Atlas bruger »foom« som synonym for »hurtig take-off« og »hård take-off«. Det modsatte synspunkt er en »langsom take-off«, hvor fremskridtet også hober sig op, men mere gradvist; ifølge et estimat, som Atlas citerer, stadig 10 til 100 gange hurtigere end den industrielle revolution.
Hvilken af de to vi får, betyder mere, end det lyder. Som Atlas påpeger, handler uenigheden ofte om, hvorvidt problemer ville være »til at opdage og rette i tide«. En hurtig take-off giver kun lidt plads til at opdage en fejl og rette den. Scenarier som AI 2027 sætter AI, der laver AI-forskning, i centrum af deres historie, og EU’s adfærdskodeks for de mest kapable modeller nævner AI’s »selvforbedring« blandt de måder, hvorpå mennesker kunne miste kontrollen.
