Tõlgendatavus

Teadus, mis vaatab tehisintellekti mudelisse sisse, et mõista, kuidas see töötab ja miks ta teeb seda, mida teeb.

Treenitud tehisintellekti mudel koosneb miljarditest arvudest. Keegi ei kirjutanud neid; need häälestusid treeningu käigus automaatselt. Seepärast ei saa isegi selle loojad lihtsalt välja lugeda, mida see teab või miks see andis teatud vastuse. Anthropicu teadlased ütlesid seda 2024. aastal otse: „Käsitleme tehisintellekti mudeleid enamasti musta kastina.“ Ettevõtte tegevjuht Dario Amodei kirjutas 2025. aastal, et „valdkonnavälised inimesed on sageli üllatunud ja ärevil, kui kuulevad, et me ei mõista, kuidas meie enda tehisintellekti loomingud töötavad“, ja tsiteeris teadlase Chris Olahi seisukohta, et need süsteemid on „pigem kasvatatud kui ehitatud“.

Tõlgendatavuse uurimine püüab seda muuta. 2024. aastal leidsid teadlased ühest Anthropicu tootmismudelist miljoneid sisemisi „tunnuseid“, alates linnadest ja inimestest kuni abstraktsete ideedeni, nagu vead koodis, saladuste hoidmine ja võimuiha. Tunnuse võimendamine muudab mudeli käitumist: võimenda Golden Gate’i silla tunnust ja mudel väidab end olevat see sild.

See on ohutuse jaoks oluline, sest käitumise testimine näitab ainult seda, mida mudel teeb, kui teda jälgitakse. Kui mudel oleks petlikult joondatud, oleks tõend tema sees. Valdkond areneb, kuid seni leitud tunnused on vaid väike osa sellest, mida suured mudelid sisaldavad.