Bureau européen de l’IA

Le centre de la Commission européenne consacré à l’IA. Il fait appliquer les règles de l’AI Act pour les modèles d’IA à usage général les plus puissants, notamment en les testant pour des risques comme la perte de contrôle.

Le Bureau de l’IA fait partie de la Commission européenne et aide à mettre en œuvre le règlement sur l’IA (AI Act). Il « fait appliquer les règles relatives aux modèles d’IA à usage général » : il peut demander des informations à leurs fabricants, évaluer les capacités des modèles, et exiger des corrections, restreindre un modèle ou infliger une amende à son fabricant. Il soutient aussi le Comité européen de l’IA, qui réunit les autorités nationales, et travaille à des accords internationaux. Commission européenne

Il a élaboré le code de bonnes pratiques pour l’IA à usage général (2025) avec des développeurs d’IA et des experts. Son chapitre sur la sécurité énumère quatre risques systémiques pour les modèles les plus performants, dont la « perte de contrôle » : des humains qui « perdent la capacité de diriger, de modifier ou d’arrêter un modèle de manière fiable », par exemple par la tromperie, l’auto-amélioration ou la résistance à la modification des objectifs. Annexe 1.4