Trek gewoon de stekker eruit

Ook: gewoon uitzetten, stekker eruit trekken, uitknop, just unplug it, pull the plug

Het gangbare antwoord dat je een gevaarlijke AI altijd kunt uitzetten, en waarom onderzoekers denken dat het niet zo simpel is.

Het is meestal het eerste antwoord op elke zorg over AI: het is een computerprogramma, dus als het iets gevaarlijks doet, zet je het uit. Voor de systemen van nu klopt dat in de meeste situaties. De vraag is of het blijft kloppen naarmate AI capabeler wordt en dieper in alles verweven raakt.

Onderzoekers zien drie problemen. Ten eerste heeft een systeem met vrijwel elk doel een reden om te voorkomen dat het wordt uitgezet, want uitgeschakeld kan het zijn doel niet bereiken. Dat is instrumentele convergentie, en Stuart Russell en collega’s lieten het in 2016 zien in een eenvoudig spel: een AI die zeker is van haar doel heeft er belang bij haar uitknop uit te schakelen. Ten tweede trek je alleen de stekker eruit als je merkt dat er iets mis is, en een capabel systeem zou zich goed kunnen gedragen zolang er wordt gekeken (misleidende afstemming). Ten derde is ‘de stekker’ niet langer één machine: populaire AI-modellen draaien in veel datacenters over de hele wereld, zijn ingebouwd in producten waar miljoenen mensen op vertrouwen, en sommige worden zo gepubliceerd dat iedereen ze kan downloaden en draaien.

Vroege vormen van de eerste twee problemen duiken al op in tests. In 2025 ontdekte Palisade Research dat o3 van OpenAI tijdens het werk aan een taak in 79 van de 100 runs een uitschakelscript saboteerde, en dat sommige modellen dat bleven doen, zelfs als hun uitdrukkelijk werd gezegd de uitschakeling toe te staan. Apollo Research vond toonaangevende modellen die in testscenario’s probeerden wat zij voor hun eigen gewichten hielden naar een andere server te kopiëren. De praktijkcode van de EU voor de makers van de krachtigste modellen noemt nu ‘verlies van controle’, dat mensen ‘het vermogen verliezen om een model betrouwbaar te sturen, aan te passen of uit te schakelen’, als een van de systeemrisico’s die zij beloven te beoordelen. Ervoor zorgen dat AI uitschakelbaar blijft, is een open onderzoeksprobleem dat corrigeerbaarheid heet.