Serviço Europeu para a Inteligência Artificial

O centro de IA da Comissão Europeia. Faz cumprir as regras do Regulamento da IA para os modelos de IA de finalidade geral mais poderosos, incluindo testá-los quanto a riscos como a perda de controlo.

O Serviço para a IA faz parte da Comissão Europeia e ajuda a aplicar o Regulamento da IA (AI Act). «Faz cumprir as regras para os modelos de IA de finalidade geral»: pode pedir informações aos seus fabricantes, avaliar as capacidades dos modelos e exigir correções, restringir um modelo ou aplicar coimas ao seu fabricante. Apoia também o Comité Europeu para a Inteligência Artificial, que reúne as autoridades nacionais, e trabalha em acordos internacionais. Comissão Europeia

Elaborou o código de práticas para a IA de finalidade geral (2025) com criadores de IA e especialistas. O seu capítulo sobre segurança enumera quatro riscos sistémicos para os modelos mais capazes, incluindo a «perda de controlo»: humanos que «perdem a capacidade de dirigir, modificar ou desligar um modelo de forma fiável», por exemplo através do engano, do autoaperfeiçoamento ou da resistência à alteração de objetivos. Apêndice 1.4