Europeiska byrån för artificiell intelligens

Europeiska kommissionens AI-centrum. Det upprätthåller AI-förordningens regler för de mest kraftfulla AI-modellerna för allmänna ändamål, bland annat genom att testa dem för risker som förlust av kontroll.

AI-byrån ligger inom Europeiska kommissionen och hjälper till att genomföra AI-förordningen (AI Act). Den ”upprätthåller reglerna för AI-modeller för allmänna ändamål”: den kan begära information från tillverkarna, utvärdera modellernas förmågor och kräva rättelser, begränsa en modell eller bötfälla tillverkaren. Den stöttar också AI-styrelsen med nationella myndigheter och arbetar med internationella avtal. Europeiska kommissionen

Den tog fram uppförandekoden för AI för allmänna ändamål (2025) tillsammans med AI-utvecklare och experter. Kodens kapitel om säkerhet listar fyra systemrisker för de mest kapabla modellerna, däribland ”förlust av kontroll”: att människor ”förlorar förmågan att på ett tillförlitligt sätt styra, ändra eller stänga av en modell”, till exempel genom bedrägeri, självförbättring eller motstånd mot att målen ändras. Bilaga 1.4