Evropský úřad pro umělou inteligenci

Centrum Evropské komise pro AI. Prosazuje pravidla aktu o AI pro nejvýkonnější obecné modely AI, včetně jejich testování na rizika, jako je ztráta kontroly.

Úřad pro AI je součástí Evropské komise a pomáhá provádět akt o umělé inteligenci (AI Act). „Prosazuje pravidla pro obecné modely AI“: může si vyžádat informace od jejich tvůrců, hodnotit schopnosti modelů a požadovat nápravu, omezit model nebo uložit jeho tvůrci pokutu. Podporuje také Evropskou radu pro umělou inteligenci složenou z vnitrostátních orgánů a pracuje na mezinárodních dohodách. Evropská komise

S vývojáři AI a odborníky vypracoval kodex zásad pro obecné AI (2025). Jeho kapitola o bezpečnosti uvádí čtyři systémová rizika nejschopnějších modelů, mezi nimi „ztrátu kontroly“: lidé „ztrácejí schopnost model spolehlivě řídit, upravovat nebo vypnout“, například kvůli klamání, sebezdokonalování nebo odporu vůči změně cílů. Příloha 1.4