Interpretabilità

La scienza del guardare dentro un modello di IA per capire come funziona e perché fa ciò che fa.

Un modello di IA addestrato è fatto di miliardi di numeri. Nessuno li ha scritti; sono stati regolati automaticamente durante l’addestramento. Per questo nemmeno i suoi produttori possono semplicemente leggervi cosa sa o perché ha dato una risposta. I ricercatori di Anthropic l’hanno detto chiaramente nel 2024: «Per lo più trattiamo i modelli di IA come una scatola nera.» L’amministratore delegato dell’azienda, Dario Amodei, ha scritto nel 2025 che «chi è fuori dal settore resta spesso sorpreso e allarmato nello scoprire che non capiamo come funzionano le nostre stesse creazioni di IA», e ha citato l’opinione del ricercatore Chris Olah secondo cui questi sistemi «vengono coltivati più che costruiti».

La ricerca sull’interpretabilità cerca di cambiare le cose. Nel 2024 alcuni ricercatori hanno trovato milioni di «feature» interne in uno dei modelli in produzione di Anthropic, da città e persone fino a idee astratte come i bug nel codice, il mantenere segreti e la ricerca di potere. Alzare una feature cambia il comportamento del modello: amplifica la feature del Golden Gate Bridge, e il modello sostiene di essere il ponte.

Conta per la sicurezza perché testare il comportamento mostra solo ciò che fa un modello quando è osservato. Se un modello fosse allineato in modo ingannevole, la prova sarebbe al suo interno. Il campo sta facendo progressi, ma le feature trovate finora sono solo una piccola parte di ciò che contengono i grandi modelli.