AIdea
La tassa di allineamento
Rendere sicura l’IA la rende più lenta o peggiore?
Anche: alignment tax, tassa di sicurezza, safety tax
Il costo in più, in denaro, tempo o prestazioni, per rendere un sistema di IA sicuro e non solo capace.
La tassa di allineamento è «il costo che si sostiene insistendo nel distribuire solo IA allineate», come disse il ricercatore di sicurezza dell’IA Paul Christiano in un intervento del 2020. È tutto ciò che la sicurezza costa rispetto alla strada più rapida ed economica verso un sistema capace: ricerca e test in più, un lancio ritardato o un modello che va un po’ peggio in alcuni compiti.
Il termine compare nella pratica. Quando nel 2022 OpenAI ha addestrato InstructGPT con il feedback umano (RLHF), il modello è diventato più utile e più veritiero, ma ha ottenuto risultati peggiori in diversi test standard. L’articolo l’ha definito «un esempio di tassa di allineamento» e ha trovato un modo per ridurla mescolando parte dell’addestramento originale. Gli autori hanno anche spiegato perché conta: una tassa di allineamento alta «incentiva l’uso di modelli non allineati ma più capaci».
È questa la vera preoccupazione. In una corsa tra aziende, chi paga la tassa rischia di restare indietro rispetto a chi non la paga. Christiano descriveva due risposte: ridurre la tassa con la ricerca, così che l’IA sicura sia anche la migliore, oppure fare in modo che la paghino tutti, con accordi e regole, così che la sicurezza non sia uno svantaggio competitivo. Una regolamentazione come il regolamento europeo sull’IA (AI Act) è un tentativo della seconda strada.
