Europees Bureau voor artificiële intelligentie

Het AI-centrum van de Europese Commissie. Het handhaaft de regels van de AI-verordening voor de krachtigste AI-modellen voor algemene doeleinden, onder meer door ze te testen op risico’s zoals verlies van controle.

Het AI-bureau valt onder de Europese Commissie en helpt de AI-verordening (AI Act) uit te voeren. Het ‘handhaaft de regels voor AI-modellen voor algemene doeleinden’: het kan informatie opvragen bij de makers, de capaciteiten van de modellen beoordelen, en verbeteringen eisen, een model beperken of de maker een boete opleggen. Het ondersteunt ook het AI-comité van nationale autoriteiten en werkt aan internationale afspraken. Europese Commissie

Het stelde met AI-ontwikkelaars en experts de praktijkcode voor AI voor algemene doeleinden (2025) op. Het hoofdstuk over veiligheid noemt vier systeemrisico’s voor de krachtigste modellen, waaronder ‘verlies van controle’: mensen die ‘het vermogen verliezen om een model betrouwbaar te sturen, aan te passen of uit te schakelen’, bijvoorbeeld door misleiding, zelfverbetering of verzet tegen het aanpassen van doelen. Bijlage 1.4