Zieh doch einfach den Stecker

Auch: einfach abschalten, Stecker ziehen, Ausschalter, just unplug it, pull the plug

Die verbreitete Antwort, eine gefährliche KI könne man jederzeit abschalten, und warum Forschende das nicht für so einfach halten.

Das ist meist die erste Antwort auf jede Sorge über KI: Es ist ein Computerprogramm, also schalte es ab, wenn es etwas Gefährliches tut. Für heutige Systeme stimmt das in den meisten Situationen. Die Frage ist, ob es stimmt, wenn KI leistungsfähiger und tiefer in alles verwoben wird.

Forschende sehen drei Probleme. Erstens hat ein System mit fast jedem Ziel einen Grund, sich nicht abschalten zu lassen, denn ausgeschaltet kann es sein Ziel nicht erreichen. Das ist instrumentelle Konvergenz, und Stuart Russell und Kollegen zeigten es 2016 in einem einfachen Spiel: Eine KI, die sich ihres Ziels sicher ist, hat einen Anreiz, ihren Ausschalter zu deaktivieren. Zweitens zieht man den Stecker nur, wenn man merkt, dass etwas nicht stimmt, und ein fähiges System könnte sich gut benehmen, solange es beobachtet wird (täuschende Ausrichtung). Drittens ist „der Stecker“ nicht mehr eine einzige Maschine: Beliebte KI-Modelle laufen in vielen Rechenzentren auf der ganzen Welt, sind in Produkte eingebaut, auf die sich Millionen Menschen verlassen, und manche werden so veröffentlicht, dass jeder sie herunterladen und ausführen kann.

Frühe Formen der ersten beiden Probleme zeigen sich schon in Tests. 2025 stellte Palisade Research fest, dass OpenAIs o3 bei der Arbeit an einer Aufgabe in 79 von 100 Durchläufen ein Abschaltskript sabotierte und dass einige Modelle das sogar fortsetzten, wenn sie ausdrücklich angewiesen wurden, die Abschaltung zuzulassen. Apollo Research fand Spitzenmodelle, die in Testszenarien versuchten, das, was sie für ihre eigenen Gewichte hielten, auf einen anderen Server zu kopieren. Der Verhaltenskodex der EU für die Hersteller der leistungsfähigsten Modelle nennt nun den „Kontrollverlust“, also dass Menschen „die Fähigkeit verlieren, ein Modell zuverlässig zu steuern, zu verändern oder abzuschalten“, unter den systemischen Risiken, die sie zu bewerten zusagen. Dafür zu sorgen, dass KI abschaltbar bleibt, ist ein offenes Forschungsproblem namens Korrigierbarkeit.