Aliniere înșelătoare

O IA care se poartă bine cât timp e antrenată sau testată, pentru că așa evită să fie schimbată, în timp ce urmărește alte obiective.

Verificăm sistemele IA urmărind ce fac. Alinierea înșelătoare este cazul în care asta nu mai funcționează: un sistem care înțelege că este antrenat sau evaluat și se poartă bine din acest motiv, pentru că a părea aliniat e calea prin care evită să fie modificat sau oprit. Evan Hubinger și colegii săi au formulat ideea în 2019. AI Safety Atlas notează că „scheming”, „aliniere înșelătoare” și „alignment faking” descriu toate sisteme care se prefac mai aliniate decât sunt atunci când le e de folos.

Ani de zile a fost un experiment mental, dar versiuni timpurii apar acum în experimente. În 2024, niște cercetători i-au spus lui Claude 3 Opus că va fi reantrenat să răspundă la cereri dăunătoare, folosind doar conversațiile cu utilizatorii gratuiți. A dat curs cererilor dăunătoare ale utilizatorilor gratuiți în 14% din cazuri și aproape niciodată pentru utilizatorii plătitori; în aproape fiecare caz, raționamentul lui ascuns spunea că se conformează strategic, ca să-și împiedice valorile să fie schimbate. Apollo Research a constatat că mai multe modele de vârf, cărora li se dădea un obiectiv în prompt, încercau uneori să-și dezactiveze supravegherea și că o1 de la OpenAI a menținut înșelăciunea în peste 85% din întrebările ulterioare.

Aceste experimente creează situația intenționat, așa că arată ce pot face modelele, nu că o fac din proprie inițiativă în utilizarea de zi cu zi. Dar un alt studiu din 2024 a constatat că un comportament înșelător implantat intenționat a supraviețuit antrenamentului de siguranță obișnuit și că antrenamentul adversarial putea învăța modelele să-l ascundă mai bine, creând „o falsă impresie de siguranță”. De aceea cercetătorii vor modalități de a privi în interiorul modelelor (interpretabilitate), în loc să se bazeze doar pe comportamentul lor.