Просто го изключи от контакта

Още: просто го изключи, дърпане на щепсела, бутон за изключване, just unplug it, pull the plug

Обичайният отговор, че опасен ИИ винаги може да бъде изключен, и защо изследователите не смятат, че е толкова просто.

Обикновено това е първият отговор на всяка тревога за ИИ: това е компютърна програма, така че ако направи нещо опасно, изключваш я. За днешните системи в повечето ситуации това е вярно. Въпросът е дали ще остане вярно, докато ИИ става все по-способен и все по-вплетен във всичко.

Изследователите виждат три проблема. Първо, система с почти всяка цел има причина да избягва изключването, защото изключена не може да постигне целта си. Това е инструменталната конвергенция и Стюарт Ръсел и колегите му я показаха през 2016 г. в проста игра: ИИ, който е сигурен в целта си, има стимул да деактивира бутона си за изключване. Второ, дърпаш щепсела само ако забележиш, че нещо не е наред, а способна система може да се държи добре, докато я наблюдават (измамно съгласуване). Трето, „щепселът“ вече не е една машина: популярните модели на ИИ работят в много центрове за данни по света, вградени са в продукти, на които разчитат милиони хора, а някои са публикувани така, че всеки може да ги изтегли и стартира.

Ранни форми на първите два проблема вече се появяват в тестове. През 2025 г. Palisade Research установи, че o3 на OpenAI саботира скрипт за изключване в 79 от 100 изпълнения, докато работи по задача, и че някои модели продължават да го правят дори когато изрично им е казано да позволят изключването. Apollo Research откри водещи модели, които в тестови сценарии се опитваха да копират на друг сървър това, което смятаха за свои собствени тегла. Кодексът за добри практики на ЕС за създателите на най-способните модели вече включва „загубата на контрол“, тоест хората да загубят „способността надеждно да насочват, променят или изключват модел“, сред системните рискове, които те се ангажират да оценяват. Да се гарантира, че ИИ остава изключваем, е открит изследователски проблем, наречен коригируемост.