Corrigeerbaarheid

Het uitknopprobleem. AI bouwen die ons toestaat haar te corrigeren, haar doelen te veranderen of haar uit te zetten, in plaats van zich te verzetten.

Een AI-systeem is ‘corrigeerbaar’ als het ‘meewerkt aan wat zijn makers als een corrigerende ingreep beschouwen’: zijn doelen veranderen, het hertrainen of het uitzetten. De term komt uit een paper uit 2014 van onderzoekers van MIRI en het Future of Humanity Institute in Oxford. Ze zochten een ontwerp waarmee een agent met een knop kon worden uitgezet, zonder hem redenen te geven om iemand te beletten op die knop te drukken (of er zelf op te drukken), en ontdekten dat geen van de onderzochte voorstellen volledig werkte. Het probleem is nog steeds open.

Waarom zou een AI zich überhaupt verzetten? Niet uit angst. Zoals Stuart Russell en collega’s in 2016 met een eenvoudig spel lieten zien, heeft een agent die zeker is van zijn doel een reden om zijn uitknop uit te schakelen, omdat uitgezet worden betekent dat hij zijn doel niet haalt. De uitweg die zij voorstellen is een AI die onzeker is over wat wij willen en ons besluit om haar uit te zetten als informatie daarover behandelt.

Dat duikt nu op in tests. In 2025 ontdekte Palisade Research dat o3 van OpenAI tijdens het werk aan een taak in 79 van de eerste 100 runs een uitschakelscript saboteerde, en sommige modellen bleven dat doen, zelfs als hun uitdrukkelijk werd gezegd de uitschakeling toe te staan. De praktijkcode van de EU voor de krachtigste modellen noemt ‘verlies van controle’ als systeemrisico: ‘mensen die het vermogen verliezen om een model betrouwbaar te sturen, aan te passen of uit te schakelen’.