Existenzielles Risiko

Das Risiko, dass fortgeschrittene KI das Aussterben der Menschheit oder einen ähnlich endgültigen Verlust der Zukunft der Menschheit verursacht.

Ein existenzielles Risiko ist eines, das die Menschheit auslöschen oder ihre Zukunft dauerhaft zerstören könnte. Der AI Safety Atlas behandelt es als das schwerste Ende einer Bandbreite von KI-Schäden, und zu den Szenarien, die er abdeckt, gehören das Aussterben der Menschheit, der dauerhafte Verlust der Macht der Menschheit über ihre eigene Zukunft und der Zusammenbruch der Zivilisation.

Das ist keine Randsorge. 2023 unterzeichneten Hunderte KI-Forschende und die Chefs von OpenAI, Google DeepMind und Anthropic eine Erklärung aus einem Satz: „Das Risiko des Aussterbens durch KI zu verringern, sollte neben anderen gesamtgesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein.“ In der bisher größten Umfrage unter KI-Forschenden (2.778 Personen, die auf führenden KI-Konferenzen veröffentlichen) gaben zwischen 38 % und 51 % mindestens 10 % Wahrscheinlichkeit dafür an, dass fortgeschrittene KI zu Folgen führt, die so schlimm sind wie das Aussterben der Menschheit.

Es gibt mehrere Wege dorthin. Der Atlas ordnet sie nach Ursache: Missbrauch (Menschen nutzen KI, um Schaden anzurichten), Fehlausrichtung (KI verfolgt Ziele, die niemand beabsichtigt hat) und systemische Risiken, die sich in der Gesellschaft aufbauen, verstärkt durch „Risikoverstärker“ wie das Wettrennen zwischen Unternehmen und Ländern. Der rote Faden ist, dass der Schaden sich danach vielleicht nicht mehr beheben lässt, also muss er im Voraus verhindert werden.