Correggibilità

Il problema dell’interruttore. Costruire un’IA che ci lasci correggerla, cambiarne gli obiettivi o spegnerla, invece di opporsi.

Un sistema di IA è «correggibile» se «collabora con ciò che i suoi creatori considerano un intervento correttivo»: cambiarne gli obiettivi, riaddestrarlo o spegnerlo. Il termine viene da un articolo del 2014 di ricercatori del MIRI e del Future of Humanity Institute di Oxford. Cercavano un progetto che permettesse di spegnere un agente con un pulsante, senza dargli motivi per impedire a qualcuno di premerlo (o per premerlo da sé), e hanno scoperto che nessuna delle proposte esaminate funzionava del tutto. Il problema è ancora aperto.

Perché un’IA dovrebbe opporsi? Non per paura. Come hanno mostrato Stuart Russell e i suoi colleghi con un gioco semplice nel 2016, un agente sicuro del proprio obiettivo ha un motivo per disattivare il proprio interruttore, perché essere spento significa fallire l’obiettivo. La via d’uscita che propongono è un’IA incerta su ciò che vogliamo, che tratti la nostra decisione di spegnerla come un’informazione al riguardo.

Ora questo emerge nei test. Nel 2025 Palisade Research ha scoperto che o3 di OpenAI sabotava uno script di spegnimento in 79 delle prime 100 esecuzioni mentre lavorava a un compito, e alcuni modelli continuavano anche quando gli veniva detto esplicitamente di permettere lo spegnimento. Il codice di buone pratiche dell’UE per i modelli più capaci indica la «perdita di controllo» come rischio sistemico: «esseri umani che perdono la capacità di dirigere, modificare o spegnere un modello in modo affidabile».