La dinamica della corsa

Quando aziende e Paesi competono per costruire per primi l’IA più potente, ciascuno è spinto a risparmiare sulla sicurezza.

C’è una corsa quando arrivare primi conta così tanto che tutti accelerano. L’AI Safety Atlas descrive lo sviluppo dell’IA come sempre più simile a una competizione in cui «chi vince prende tutto», dove «le pressioni competitive minano sistematicamente gli investimenti in sicurezza quando la velocità offre vantaggi decisivi». Il Center for AI Safety conta la «corsa all’IA» tra le quattro principali fonti di rischio catastrofico dell’IA, perché la concorrenza può «costringere gli attori a distribuire IA non sicure o a cedere il controllo alle IA».

È un problema di azione collettiva: ogni azienda forse preferirebbe procedere con più cautela, ma teme che rallentare consegni soltanto il vantaggio a un rivale meno attento. La stessa logica vale tra Paesi. L’Atlas fa il paragone con i farmaci, dove regolamentazione e responsabilità rendono rara una corsa al ribasso sulla sicurezza, e osserva che finora l’IA ha avuto poco dell’una e dell’altra.

Per questo molte delle soluzioni proposte riguardano il coordinamento più che la tecnologia: regole comuni come il regolamento europeo sull’IA, test indipendenti prima del rilascio, accordi internazionali o una pausa. Nel marzo 2023 la lettera aperta del Future of Life Institute chiese ai laboratori di IA di sospendere per almeno sei mesi l’addestramento di sistemi più potenti di GPT-4. Nessuna pausa c’è stata.