Ufficio europeo per l’IA

Il centro per l’IA della Commissione europea. Fa rispettare le regole dell’AI Act per i modelli di IA per finalità generali più potenti, testandoli anche per rischi come la perdita di controllo.

L’Ufficio per l’IA fa parte della Commissione europea e contribuisce ad attuare il regolamento sull’IA (AI Act). «Fa rispettare le regole per i modelli di IA per finalità generali»: può chiedere informazioni ai loro produttori, valutare le capacità dei modelli e imporre correzioni, limitare un modello o multarne il produttore. Sostiene inoltre il comitato europeo per l’intelligenza artificiale, che riunisce le autorità nazionali, e lavora ad accordi internazionali. Commissione europea

Ha redatto il codice di buone pratiche per l’IA per finalità generali (2025) con sviluppatori di IA ed esperti. Il suo capitolo sulla sicurezza elenca quattro rischi sistemici per i modelli più capaci, tra cui la «perdita di controllo»: esseri umani che «perdono la capacità di dirigere, modificare o spegnere un modello in modo affidabile», per esempio attraverso l’inganno, l’auto-miglioramento o la resistenza alla modifica degli obiettivi. Appendice 1.4