Oficina Europea de Inteligencia Artificial

El centro de la Comisión Europea para la IA. Hace cumplir las normas del Reglamento de IA para los modelos de IA de uso general más potentes, lo que incluye evaluarlos para detectar riesgos como la pérdida de control.

La Oficina de IA forma parte de la Comisión Europea y ayuda a aplicar el Reglamento de IA (AI Act). «Hace cumplir las normas para los modelos de IA de uso general»: puede pedir información a sus fabricantes, evaluar las capacidades de los modelos y exigir correcciones, restringir un modelo o multar a su fabricante. También apoya al Comité Europeo de Inteligencia Artificial, formado por autoridades nacionales, y trabaja en acuerdos internacionales. Comisión Europea

Elaboró el código de buenas prácticas para la IA de uso general (2025) con desarrolladores de IA y expertos. Su capítulo sobre seguridad enumera cuatro riesgos sistémicos para los modelos más capaces, entre ellos la «pérdida de control»: que los humanos «pierdan la capacidad de dirigir, modificar o apagar un modelo de forma fiable», por ejemplo mediante el engaño, la automejora o la resistencia a que se modifiquen sus objetivos. Apéndice 1.4