Korrigierbarkeit

Das Ausschalter-Problem. KI zu bauen, die uns erlaubt, sie zu korrigieren, ihre Ziele zu ändern oder sie abzuschalten, statt sich zu wehren.

Ein KI-System ist „korrigierbar“, wenn es „mit dem kooperiert, was seine Schöpfer als korrigierenden Eingriff betrachten“: seine Ziele zu ändern, es neu zu trainieren oder es abzuschalten. Der Begriff stammt aus einem Paper von 2014 von Forschenden am MIRI und am Future of Humanity Institute in Oxford. Sie suchten nach einem Design, mit dem sich ein Agent per Knopfdruck abschalten lässt, ohne ihm Gründe zu geben, jemanden am Drücken zu hindern (oder selbst zu drücken), und fanden, dass keiner der untersuchten Vorschläge vollständig funktionierte. Das Problem ist noch offen.

Warum sollte sich eine KI überhaupt wehren? Nicht aus Angst. Wie Stuart Russell und Kollegen 2016 mit einem einfachen Spiel zeigten, hat ein Agent, der sich seines Ziels sicher ist, einen Grund, seinen Ausschalter zu deaktivieren, weil Abgeschaltetwerden bedeutet, am Ziel zu scheitern. Ihr vorgeschlagener Ausweg ist eine KI, die unsicher ist, was wir wollen, und unsere Entscheidung, sie abzuschalten, als Information darüber behandelt.

Das zeigt sich inzwischen in Tests. 2025 stellte Palisade Research fest, dass OpenAIs o3 bei der Arbeit an einer Aufgabe in 79 von 100 ersten Durchläufen ein Abschaltskript sabotierte, und einige Modelle machten damit weiter, selbst wenn sie ausdrücklich angewiesen wurden, die Abschaltung zuzulassen. Der Verhaltenskodex der EU für die leistungsfähigsten Modelle nennt den „Kontrollverlust“ als systemisches Risiko: dass „Menschen die Fähigkeit verlieren, ein Modell zuverlässig zu steuern, zu verändern oder abzuschalten“.