Európai Mesterségesintelligencia-hivatal

Az Európai Bizottság MI-központja. Érvényre juttatja a mesterségesintelligencia-rendelet szabályait a legerősebb általános célú MI-modellekre, többek között az irányítás elvesztéséhez hasonló kockázatok tesztelésével.

Az MI-hivatal az Európai Bizottság része, és segít végrehajtani a mesterségesintelligencia-rendeletet (AI Act). „Érvényre juttatja az általános célú MI-modellekre vonatkozó szabályokat”: információt kérhet a fejlesztőiktől, értékelheti a modellek képességeit, és javításokat követelhet, korlátozhat egy modellt, vagy megbírságolhatja a fejlesztőjét. Emellett támogatja a nemzeti hatóságokból álló Európai Mesterséges Intelligencia Testületet, és nemzetközi megállapodásokon dolgozik. Európai Bizottság

MI-fejlesztőkkel és szakértőkkel közösen dolgozta ki az általános célú MI-re vonatkozó gyakorlati kódexet (2025). Ennek biztonsági fejezete négy rendszerszintű kockázatot sorol fel a legképesebb modellekre, köztük az „irányítás elvesztését”: amikor az emberek „elveszítik a modell megbízható irányításának, módosításának vagy leállításának képességét”, például megtévesztés, önfejlesztés vagy a célok módosításával szembeni ellenállás miatt. 1.4. függelék