Evropski urad za umetno inteligenco

Center Evropske komisije za UI. Izvršuje pravila akta o UI za najzmogljivejše modele UI za splošne namene, vključno s testiranjem glede tveganj, kot je izguba nadzora.

Urad za UI deluje v okviru Evropske komisije in pomaga izvajati akt o umetni inteligenci (AI Act). »Izvršuje pravila za modele UI za splošne namene«: od njihovih ustvarjalcev lahko zahteva informacije, ocenjuje zmožnosti modelov ter zahteva popravke, omeji model ali ustvarjalcu naloži globo. Podpira tudi Evropski odbor za umetno inteligenco, ki ga sestavljajo nacionalni organi, in dela na mednarodnih dogovorih. Evropska komisija

Z razvijalci UI in strokovnjaki je pripravil kodeks ravnanja za UI za splošne namene (2025). Njegovo poglavje o varnosti navaja štiri sistemska tveganja najzmogljivejših modelov, med njimi »izgubo nadzora«: ljudje »izgubijo zmožnost zanesljivega usmerjanja, spreminjanja ali izklopa modela«, na primer zaradi zavajanja, samoizboljševanja ali upiranja spremembi ciljev. Priloga 1.4