Europejski Urząd ds. Sztucznej Inteligencji

Centrum Komisji Europejskiej ds. AI. Egzekwuje przepisy aktu o AI wobec najpotężniejszych modeli AI ogólnego przeznaczenia, m.in. testując je pod kątem zagrożeń takich jak utrata kontroli.

Urząd ds. AI działa w ramach Komisji Europejskiej i pomaga wdrażać akt o sztucznej inteligencji (AI Act). „Egzekwuje przepisy dotyczące modeli AI ogólnego przeznaczenia”: może żądać informacji od ich twórców, oceniać możliwości modeli oraz wymagać poprawek, ograniczyć model lub nałożyć karę na jego twórcę. Wspiera też Europejską Radę ds. Sztucznej Inteligencji złożoną z organów krajowych i pracuje nad porozumieniami międzynarodowymi. Komisja Europejska

Opracował z twórcami AI i ekspertami kodeks praktyk dla AI ogólnego przeznaczenia (2025). Jego rozdział o bezpieczeństwie wymienia cztery ryzyka systemowe dla najbardziej zaawansowanych modeli, w tym „utratę kontroli”: sytuację, w której ludzie „tracą zdolność do niezawodnego kierowania modelem, modyfikowania go lub wyłączania”, na przykład wskutek oszustwa, samodoskonalenia się lub oporu wobec zmiany celów. Załącznik 1.4