Europäisches Amt für künstliche Intelligenz

Das KI-Zentrum der Europäischen Kommission. Es setzt die Regeln des AI Act für die leistungsfähigsten KI-Modelle mit allgemeinem Verwendungszweck durch und testet sie unter anderem auf Risiken wie Kontrollverlust.

Das KI-Büro ist bei der Europäischen Kommission angesiedelt und hilft, den AI Act umzusetzen. Es „setzt die Regeln für GPAI-Modelle durch“ (KI mit allgemeinem Verwendungszweck): Es kann Informationen von ihren Herstellern anfordern, die Fähigkeiten der Modelle bewerten und Nachbesserungen verlangen, ein Modell beschränken oder seinen Hersteller mit Geldbußen belegen. Außerdem unterstützt es das KI-Gremium der nationalen Behörden und arbeitet an internationalen Abkommen. Europäische Kommission

Es hat mit KI-Entwicklern und Fachleuten den Verhaltenskodex für KI mit allgemeinem Verwendungszweck (2025) erarbeitet. Sein Kapitel zur Sicherheit nennt vier systemische Risiken der leistungsfähigsten Modelle, darunter den „Kontrollverlust“: dass Menschen „die Fähigkeit verlieren, ein Modell zuverlässig zu steuern, zu verändern oder abzuschalten“, etwa durch Täuschung, Selbstverbesserung oder Widerstand gegen die Änderung von Zielen. Anhang 1.4