Europski ured za umjetnu inteligenciju

Centar Europske komisije za UI. Provodi pravila Akta o UI-ju za najmoćnije modele UI-ja opće namjene, uključujući njihovo testiranje na rizike poput gubitka kontrole.

Ured za UI dio je Europske komisije i pomaže u provedbi Akta o umjetnoj inteligenciji (AI Act). „Provodi pravila za modele UI-ja opće namjene”: može tražiti informacije od njihovih proizvođača, procjenjivati sposobnosti modela te zahtijevati ispravke, ograničiti model ili proizvođača kazniti novčanom kaznom. Podupire i Europski odbor za umjetnu inteligenciju, koji čine nacionalna tijela, i radi na međunarodnim sporazumima. Europska komisija

S razvijateljima UI-ja i stručnjacima izradio je kodeks prakse za UI opće namjene (2025.). Njegovo poglavlje o sigurnosti navodi četiri sustavna rizika najsposobnijih modela, među njima „gubitak kontrole”: ljudi „gube sposobnost pouzdanog usmjeravanja, mijenjanja ili isključivanja modela”, primjerice zbog obmane, samopoboljšavanja ili otpora promjeni ciljeva. Dodatak 1.4