Oficiul european pentru IA

Centrul Comisiei Europene pentru IA. Aplică regulile Regulamentului privind IA pentru cele mai puternice modele IA de uz general, inclusiv testându-le pentru riscuri precum pierderea controlului.

Oficiul pentru IA face parte din Comisia Europeană și ajută la punerea în aplicare a Regulamentului privind IA (AI Act). „Aplică regulile pentru modelele IA de uz general”: poate cere informații producătorilor, poate evalua capacitățile modelelor și poate cere remedieri, restricționa un model sau amenda producătorul. Sprijină, de asemenea, Consiliul european pentru inteligența artificială, format din autoritățile naționale, și lucrează la acorduri internaționale. Comisia Europeană

A elaborat codul de bune practici pentru IA de uz general (2025) împreună cu dezvoltatori IA și experți. Capitolul său despre siguranță enumeră patru riscuri sistemice pentru cele mai capabile modele, printre care „pierderea controlului”: oameni care „pierd capacitatea de a dirija, modifica sau opri un model în mod fiabil”, de exemplu prin înșelăciune, autoperfecționare sau rezistență la modificarea obiectivelor. Anexa 1.4