Euroopan tekoälytoimisto

Euroopan komission tekoälykeskus. Se valvoo tekoälysäädöksen sääntöjen noudattamista tehokkaimmissa yleiskäyttöisissä tekoälymalleissa ja testaa niitä muun muassa hallinnan menettämisen kaltaisten riskien varalta.

Tekoälytoimisto toimii Euroopan komission yhteydessä ja auttaa panemaan täytäntöön tekoälysäädöksen (AI Act). Se ”valvoo yleiskäyttöisiä tekoälymalleja koskevia sääntöjä”: se voi pyytää tietoja mallien tekijöiltä, arvioida mallien kykyjä sekä vaatia korjauksia, rajoittaa mallia tai määrätä tekijälle sakon. Se tukee myös kansallisten viranomaisten tekoälyneuvostoa ja tekee työtä kansainvälisten sopimusten parissa. Euroopan komissio

Se laati yleiskäyttöisen tekoälyn käytännesäännöt (2025) yhdessä tekoälykehittäjien ja asiantuntijoiden kanssa. Niiden turvallisuusluku luettelee neljä järjestelmäriskiä kyvykkäimmille malleille, muun muassa ”hallinnan menettämisen”: ihmiset ”menettävät kyvyn ohjata, muokata tai sammuttaa mallia luotettavasti”, esimerkiksi harhautuksen, itsensä kehittämisen tai tavoitteiden muuttamisen vastustamisen vuoksi. Liite 1.4