Tulkittavuus

Tiede, joka kurkistaa tekoälymallin sisään ymmärtääkseen, miten se toimii ja miksi se tekee mitä tekee.

Koulutettu tekoälymalli on miljardeja lukuja. Kukaan ei kirjoittanut niitä; ne säätyivät automaattisesti koulutuksen aikana. Siksi edes sen tekijät eivät voi yksinkertaisesti lukea, mitä se tietää tai miksi se antoi tietyn vastauksen. Anthropicin tutkijat sanoivat sen suoraan vuonna 2024: ”Kohtelemme tekoälymalleja enimmäkseen mustana laatikkona.” Yhtiön toimitusjohtaja Dario Amodei kirjoitti vuonna 2025, että ”alan ulkopuoliset ovat usein yllättyneitä ja huolestuneita kuullessaan, ettemme ymmärrä, miten omat tekoälyluomuksemme toimivat”, ja lainasi tutkija Chris Olahin näkemystä, jonka mukaan nämä järjestelmät ”kasvatetaan pikemmin kuin rakennetaan”.

Tulkittavuustutkimus yrittää muuttaa tämän. Vuonna 2024 tutkijat löysivät miljoonia sisäisiä ”piirteitä” yhdestä Anthropicin tuotantomalleista, kaupungeista ja ihmisistä abstrakteihin ajatuksiin, kuten koodin virheisiin, salaisuuksien pitämiseen ja vallanhaluun. Piirteen voimistaminen muuttaa mallin käyttäytymistä: voimista Golden Gate -sillan piirrettä, niin malli väittää olevansa silta.

Sillä on merkitystä turvallisuudelle, koska käyttäytymisen testaaminen näyttää vain, mitä malli tekee, kun sitä tarkkaillaan. Jos malli olisi harhaanjohtavasti linjattu, todiste olisi sen sisällä. Ala edistyy, mutta tähän mennessä löydetyt piirteet ovat vain pieni osa siitä, mitä suuret mallit sisältävät.