Det Europæiske AI-kontor

Europa-Kommissionens AI-center. Det håndhæver AI-forordningens regler for de mest magtfulde AI-modeller til almen brug, blandt andet ved at teste dem for risici som tab af kontrol.

AI-kontoret hører under Europa-Kommissionen og hjælper med at gennemføre AI-forordningen (AI Act). Det »håndhæver reglerne for AI-modeller til almen brug«: Det kan kræve oplysninger fra producenterne, vurdere modellernes evner og kræve rettelser, begrænse en model eller give producenten en bøde. Det støtter også AI-rådet med de nationale myndigheder og arbejder på internationale aftaler. Europa-Kommissionen

Det udarbejdede adfærdskodeksen for AI til almen brug (2025) sammen med AI-udviklere og eksperter. Dens kapitel om sikkerhed nævner fire systemiske risici for de mest kapable modeller, herunder »tab af kontrol«: at mennesker »mister evnen til pålideligt at styre, ændre eller lukke en model ned«, for eksempel gennem bedrag, selvforbedring eller modstand mod ændring af mål. Bilag 1.4