Wettlaufdynamik

Wenn Unternehmen und Länder darum konkurrieren, als Erste die leistungsfähigste KI zu bauen, wird jeder dazu gedrängt, bei der Sicherheit Abstriche zu machen.

Ein Wettlauf entsteht, wenn es so wichtig ist, Erster zu sein, dass alle schneller werden. Der AI Safety Atlas beschreibt die KI-Entwicklung zunehmend als einen Wettbewerb nach dem Prinzip „The winner takes it all“, in dem „Wettbewerbsdruck Investitionen in Sicherheit systematisch untergräbt, wenn Tempo entscheidende Vorteile bringt“. Das Center for AI Safety zählt das „KI-Wettrennen“ zu den vier Hauptquellen katastrophaler KI-Risiken, weil Konkurrenz „Akteure dazu zwingen kann, unsichere KIs einzusetzen oder Kontrolle an KIs abzugeben“.

Es ist ein Problem kollektiven Handelns: Jedes Unternehmen würde vielleicht lieber vorsichtiger vorgehen, fürchtet aber, dass Bremsen nur einem weniger vorsichtigen Rivalen den Vorsprung überlässt. Dieselbe Logik gilt zwischen Ländern. Der Atlas vergleicht das mit Medikamenten, bei denen Regulierung und Haftung einen Unterbietungswettlauf bei der Sicherheit selten machen, und stellt fest, dass es bei KI bisher wenig von beidem gibt.

Deshalb setzen viele vorgeschlagene Lösungen auf Koordination statt auf Technik: gemeinsame Regeln wie den AI Act der EU, unabhängige Tests vor der Veröffentlichung, internationale Abkommen oder eine Pause. Im März 2023 forderte der offene Brief des Future of Life Institute KI-Labore auf, das Training von Systemen, die leistungsfähiger sind als GPT-4, für mindestens sechs Monate zu pausieren. Eine Pause gab es nicht.