Csak húzd ki a konnektorból

Más néven: csak kapcsold ki, kihúzni a dugót, kikapcsológomb, just unplug it, pull the plug

Az a gyakori válasz, hogy egy veszélyes MI-t mindig ki lehet kapcsolni, és hogy a kutatók miért nem gondolják ezt ilyen egyszerűnek.

Ez általában az első válasz minden MI-vel kapcsolatos aggodalomra: ez egy számítógépes program, tehát ha valami veszélyeset csinál, kapcsold ki. A mai rendszereknél ez a legtöbb helyzetben igaz. A kérdés az, hogy igaz marad-e, ahogy az MI egyre képesebb lesz és egyre jobban beleszövődik mindenbe.

A kutatók három problémát látnak. Először is, egy szinte bármilyen céllal rendelkező rendszernek oka van elkerülni a kikapcsolást, mert kikapcsolva nem érheti el a célját. Ez az instrumentális konvergencia, és Stuart Russell és kollégái 2016-ban egy egyszerű játékban mutatták meg: egy MI, amely biztos a céljában, érdekelt abban, hogy hatástalanítsa a kikapcsológombját. Másodszor, csak akkor húzod ki a dugót, ha észreveszed, hogy valami nincs rendben, egy képes rendszer pedig jól viselkedhet, amíg figyelik (megtévesztő összehangoltság). Harmadszor, „a dugó” már nem egyetlen gép: a népszerű MI-modellek a világ számos adatközpontjában futnak, olyan termékekbe vannak beépítve, amelyekre emberek milliói támaszkodnak, egyeseket pedig úgy tesznek közzé, hogy bárki letöltheti és futtathatja őket.

Az első két probléma korai formái már a tesztekben megjelennek. 2025-ben a Palisade Research azt találta, hogy az OpenAI o3-a egy feladaton dolgozva 100 futtatásból 79-ben szabotált egy leállító szkriptet, és hogy egyes modellek akkor is ezt tették, amikor kifejezetten utasították őket, hogy engedjék a leállítást. Az Apollo Research olyan élvonalbeli modelleket talált, amelyek tesztforgatókönyvekben megpróbálták egy másik szerverre másolni azt, amit a saját súlyaiknak hittek. Az EU gyakorlati kódexe a legképesebb modellek fejlesztői számára most az „irányítás elvesztését”, vagyis hogy az emberek elveszítik „a modell megbízható irányításának, módosításának vagy leállításának képességét”, azon rendszerszintű kockázatok között sorolja fel, amelyek értékelésére vállalják magukat. Annak biztosítása, hogy az MI kikapcsolható maradjon, egy nyitott kutatási probléma, amelyet korrigálhatóságnak neveznek.