AIdea
Die Alignment-Steuer
Macht es KI langsamer oder schlechter, sie sicher zu machen?
Auch: alignment tax, Sicherheitssteuer, safety tax
Die zusätzlichen Kosten an Geld, Zeit oder Leistung, um ein KI-System sicher statt nur leistungsfähig zu machen.
Die Alignment-Steuer sind „die Kosten, die entstehen, wenn wir darauf bestehen, nur ausgerichtete KI einzusetzen“, wie es der KI-Sicherheitsforscher Paul Christiano 2020 in einem Vortrag formulierte. Gemeint ist alles, was Sicherheit im Vergleich zum schnellsten und billigsten Weg zu einem leistungsfähigen System kostet: zusätzliche Forschung und Tests, ein späterer Start oder ein Modell, das bei manchen Aufgaben etwas schlechter abschneidet.
Der Begriff taucht in der Praxis auf. Als OpenAI 2022 InstructGPT mit menschlichem Feedback (RLHF) trainierte, wurde das Modell hilfreicher und wahrheitsgetreuer, schnitt aber bei mehreren Standardtests schlechter ab. Das Paper nannte das „ein Beispiel für eine Alignment-Steuer“ und fand einen Weg, sie zu verringern, indem ein Teil des ursprünglichen Trainings beigemischt wurde. Die Autoren erklärten auch, warum das wichtig ist: Eine hohe Alignment-Steuer „schafft Anreize, Modelle zu verwenden, die nicht ausgerichtet, aber leistungsfähiger sind“.
Das ist die eigentliche Sorge. In einem Rennen zwischen Unternehmen riskiert, wer die Steuer zahlt, hinter jene zurückzufallen, die es nicht tun. Christiano beschrieb zwei Antworten: die Steuer durch Forschung senken, damit sichere KI auch die beste KI ist, oder dafür sorgen, dass alle sie zahlen, durch Abkommen und Regeln, damit Sicherheit kein Wettbewerbsnachteil ist. Regulierung wie der AI Act der EU ist ein Versuch des Zweiten.
