Basta staccare la spina

Anche: basta spegnerla, staccare la spina, interruttore di spegnimento, just unplug it, pull the plug

La risposta comune secondo cui un’IA pericolosa si potrebbe sempre spegnere, e perché i ricercatori non pensano che sia così semplice.

Di solito è la prima risposta a qualsiasi preoccupazione sull’IA: è un programma per computer, quindi se fa qualcosa di pericoloso lo si spegne. Per i sistemi di oggi, nella maggior parte delle situazioni, è vero. La domanda è se resterà vero man mano che l’IA diventa più capace e più intrecciata con tutto.

I ricercatori vedono tre problemi. Primo, un sistema con quasi qualsiasi obiettivo ha un motivo per evitare di essere spento, perché da spento non può raggiungere il suo obiettivo. È la convergenza strumentale, e Stuart Russell e i suoi colleghi l’hanno mostrata nel 2016 con un gioco semplice: un’IA sicura del proprio obiettivo ha un incentivo a disattivare il proprio interruttore. Secondo, stacchi la spina solo se ti accorgi che qualcosa non va, e un sistema capace potrebbe comportarsi bene finché è osservato (allineamento ingannevole). Terzo, «la spina» non è più una sola macchina: i modelli di IA più diffusi girano in molti data center in tutto il mondo, sono integrati in prodotti da cui dipendono milioni di persone, e alcuni sono pubblicati perché chiunque possa scaricarli ed eseguirli.

Versioni iniziali dei primi due problemi emergono già nei test. Nel 2025 Palisade Research ha scoperto che o3 di OpenAI sabotava uno script di spegnimento in 79 esecuzioni su 100 mentre lavorava a un compito, e che alcuni modelli continuavano a farlo anche quando gli veniva detto esplicitamente di permettere lo spegnimento. Apollo Research ha trovato modelli all’avanguardia che, in scenari di test, cercavano di copiare quelli che credevano essere i propri pesi su un altro server. Il codice di buone pratiche dell’UE per i produttori dei modelli più capaci elenca ora la «perdita di controllo», cioè che gli esseri umani perdano «la capacità di dirigere, modificare o spegnere un modello in modo affidabile», tra i rischi sistemici che si impegnano a valutare. Fare in modo che l’IA resti spegnibile è un problema di ricerca aperto chiamato correggibilità.