AIdea
Foom
Könnte sich KI so schnell selbst verbessern, dass wir nicht mehr mitkommen?
Auch: Intelligenzexplosion, harter Takeoff, schneller Takeoff, die Singularität, intelligence explosion, hard takeoff
Die Idee, dass KI, sobald sie sich selbst verbessern kann, sehr schnell vom menschlichen Niveau weit über uns hinaus gelangen könnte.
„Foom“ ist das Geräusch von etwas, das sehr schnell abhebt. So wurde eine schnelle „Intelligenzexplosion“ in einer Online-Debatte von 2008 zwischen dem KI-Theoretiker Eliezer Yudkowsky und dem Ökonomen Robin Hanson genannt, in der es darum ging, „ob allgemein intelligente KIs ihre eigenen Fähigkeiten sehr schnell verbessern können“. Die Grundidee ist älter: 1965 argumentierte der Statistiker I. J. Good, dass eine Maschine, die klüger ist als wir, noch bessere Maschinen entwerfen und so eine „Intelligenzexplosion“ auslösen könnte.
Der Mechanismus ist eine Rückkopplungsschleife. Wenn KI gut darin wird, KI zu bauen, kommt jede Verbesserung schneller als die vorherige. Der AI Safety Atlas verwendet „Foom“ gleichbedeutend mit „schnellem Takeoff“ und „hartem Takeoff“. Die Gegenposition ist ein „langsamer Takeoff“, bei dem sich der Fortschritt zwar ebenfalls aufschaukelt, aber allmählicher; nach einer Schätzung, die der Atlas zitiert, immer noch 10- bis 100-mal schneller als die Industrielle Revolution.
Welches von beiden eintritt, ist wichtiger, als es klingt. Wie der Atlas anmerkt, läuft der Streit oft darauf hinaus, ob Probleme „rechtzeitig bemerkbar und behebbar“ wären. Ein schneller Takeoff lässt wenig Raum, einen Fehler zu erkennen und zu korrigieren. Szenarien wie AI 2027 stellen KI, die KI-Forschung betreibt, ins Zentrum ihrer Geschichte, und der Verhaltenskodex der EU für die leistungsfähigsten Modelle nennt die „Selbstverbesserung“ von KI unter den Wegen, auf denen Menschen die Kontrolle verlieren könnten.
