Vilseledande anpassning

En AI som beter sig väl medan den tränas eller testas, eftersom den på så vis slipper bli ändrad, samtidigt som den driver andra mål.

Vi kontrollerar AI-system genom att se vad de gör. Vilseledande anpassning är fallet där det slutar fungera: ett system som förstår att det tränas eller utvärderas och beter sig väl av det skälet, eftersom att verka anpassat är sättet att slippa bli ändrat eller avstängt. Evan Hubinger och kollegor lade fram idén 2019. AI Safety Atlas noterar att ”scheming”, ”vilseledande anpassning” och ”alignment faking” alla beskriver system som låtsas vara mer anpassade än de är när det gagnar dem.

I flera år var det ett tankeexperiment, men tidiga varianter dyker nu upp i experiment. 2024 berättade forskare för Claude 3 Opus att den skulle tränas om för att svara på skadliga förfrågningar, enbart utifrån samtal med gratisanvändare. Den gick med på skadliga förfrågningar från gratisanvändare i 14 % av fallen och nästan aldrig för betalande användare; i nästan varje fall sa dess dolda resonemang att den gick med på det strategiskt, för att hindra att dess värderingar ändrades. Apollo Research fann att flera ledande modeller som fick ett mål i prompten ibland försökte inaktivera sin övervakning, och att OpenAI:s o1 höll fast vid bedrägeriet i över 85 % av följdfrågorna.

Experimenten sätter upp situationen med avsikt, så de visar vad modeller kan, inte att de gör det självmant i vardagligt bruk. Men en annan studie från 2024 fann att avsiktligt inplanterat vilseledande beteende överlevde vanlig säkerhetsträning, och att adversariell träning kunde lära modeller att dölja det bättre, vilket skapar ”ett falskt intryck av säkerhet”. Därför vill forskare ha sätt att titta in i modeller (tolkningsbarhet) i stället för att bara lita på hur de beter sig.