Európsky úrad pre umelú inteligenciu

Centrum Európskej komisie pre AI. Presadzuje pravidlá aktu o AI pre najvýkonnejšie modely AI na všeobecné účely vrátane ich testovania na riziká, ako je strata kontroly.

Úrad pre AI je súčasťou Európskej komisie a pomáha vykonávať akt o umelej inteligencii (AI Act). „Presadzuje pravidlá pre modely AI na všeobecné účely“: môže si vyžiadať informácie od ich tvorcov, hodnotiť schopnosti modelov a požadovať nápravu, obmedziť model alebo uložiť jeho tvorcovi pokutu. Podporuje tiež Európsku radu pre umelú inteligenciu zloženú z vnútroštátnych orgánov a pracuje na medzinárodných dohodách. Európska komisia

S vývojármi AI a odborníkmi vypracoval kódex postupov pre AI na všeobecné účely (2025). Jeho kapitola o bezpečnosti uvádza štyri systémové riziká najschopnejších modelov, medzi nimi „stratu kontroly“: ľudia „strácajú schopnosť model spoľahlivo riadiť, upravovať alebo vypnúť“, napríklad pre klamanie, sebazdokonaľovanie alebo odpor voči zmene cieľov. Príloha 1.4