Foom

Także: eksplozja inteligencji, twardy start, szybki start, osobliwość, intelligence explosion, hard takeoff

Pomysł, że gdy AI zacznie ulepszać samą siebie, może bardzo szybko przejść od poziomu ludzkiego do poziomu daleko poza nami.

„Foom” to dźwięk czegoś, co bardzo szybko startuje. Tak nazwano szybką „eksplozję inteligencji” w internetowej debacie z 2008 roku między teoretykiem AI Eliezerem Yudkowskym a ekonomistą Robinem Hansonem na temat tego, „czy ogólnie inteligentne AI będą w stanie bardzo szybko ulepszać własne możliwości”. Sama idea jest starsza: w 1965 roku statystyk I. J. Good przekonywał, że maszyna mądrzejsza od nas mogłaby projektować jeszcze lepsze maszyny, wywołując „eksplozję inteligencji”.

Mechanizm to sprzężenie zwrotne. Jeśli AI stanie się dobra w pracy nad budową AI, każde ulepszenie sprawi, że następne przyjdzie szybciej. AI Safety Atlas używa słowa „foom” zamiennie z „szybkim startem” i „twardym startem”. Przeciwny pogląd to „wolny start”, w którym postęp też się nawarstwia, ale bardziej stopniowo; według jednego z szacunków cytowanych przez Atlas wciąż od 10 do 100 razy szybciej niż rewolucja przemysłowa.

To, który z nich nastąpi, ma większe znaczenie, niż się wydaje. Jak zauważa Atlas, spór często sprowadza się do tego, czy problemy byłyby „zauważalne i możliwe do naprawienia na czas”. Szybki start zostawia niewiele miejsca na dostrzeżenie błędu i jego poprawienie. Scenariusze takie jak AI 2027 stawiają w centrum swojej historii AI prowadzącą badania nad AI, a unijny kodeks praktyk dla najbardziej zaawansowanych modeli wymienia „samodoskonalenie się” AI wśród sposobów, w jakie ludzie mogliby stracić kontrolę.