Samo izklopi ga iz vtičnice

Tudi: preprosto ga izklopi, izvleči vtikač, stikalo za izklop, just unplug it, pull the plug

Pogost odgovor, da je nevarno UI vedno mogoče izklopiti, in zakaj raziskovalci menijo, da ni tako preprosto.

To je običajno prvi odgovor na vsako skrb glede UI: to je računalniški program, zato ga izklopi, če naredi kaj nevarnega. Za današnje sisteme to v večini primerov drži. Vprašanje je, ali bo držalo tudi, ko bo UI zmogljivejša in bolj prepletena z vsem.

Raziskovalci vidijo tri težave. Prvič, sistem s skoraj katerim koli ciljem ima razlog, da se izogne izklopu, saj izklopljen ne more doseči svojega cilja. To je instrumentalna konvergenca, Stuart Russell in sodelavci pa so jo leta 2016 pokazali v preprosti igri: UI, ki je prepričana o svojem cilju, ima spodbudo, da onemogoči svoje stikalo za izklop. Drugič, vtikač izvlečeš le, če opaziš, da je nekaj narobe, zmogljiv sistem pa bi se lahko lepo vedel, dokler ga opazujejo (zavajajoča usklajenost). Tretjič, »vtikač« ni več en stroj: priljubljeni modeli UI tečejo v številnih podatkovnih centrih po vsem svetu, vgrajeni so v izdelke, na katere se zanaša na milijone ljudi, nekateri pa so objavljeni tako, da jih lahko kdor koli prenese in zažene.

Zgodnje oblike prvih dveh težav se že pojavljajo v testih. Leta 2025 je Palisade Research ugotovil, da je o3 podjetja OpenAI med delom na nalogi v 79 od 100 zagonov saboteral skript za izklop in da so nekateri modeli s tem nadaljevali, tudi ko so dobili izrecno navodilo, naj izklop dovolijo. Apollo Research je našel vodilne modele, ki so v testnih scenarijih poskušali na drug strežnik kopirati tisto, kar so imeli za svoje uteži. Kodeks ravnanja EU za razvijalce najzmogljivejših modelov zdaj »izgubo nadzora«, torej da ljudje izgubijo »zmožnost zanesljivega usmerjanja, spreminjanja ali izklopa modela«, navaja med sistemskimi tveganji, ki se jih zavezujejo oceniti. Poskrbeti, da UI ostane izklopljiva, je odprt raziskovalni problem, imenovan popravljivost.