Korriġibbiltà

Il-problema tal-buttuna tat-tifi. Li tibni IA li tħallina nikkoreġuha, nibdlulha l-għanijiet jew nitfuha, minflok ma tirreżisti.

Sistema tal-IA hija “korriġibbli” jekk “tikkoopera ma’ dak li l-ħallieqa tagħha jqisu bħala intervent korrettiv”: li jinbidlu l-għanijiet tagħha, li terġa’ titħarreġ, jew li tintefa. It-terminu ġej minn dokument tal-2014 minn riċerkaturi f’MIRI u fil-Future of Humanity Institute ta’ Oxford. Fittxew disinn li jħalli aġent jintefa b’buttuna, mingħajr ma jagħtih raġunijiet biex iwaqqaf lil xi ħadd milli jagħfasha (jew biex jagħfasha hu stess), u sabu li l-ebda waħda mill-proposti li eżaminaw ma ħadmet għal kollox. Il-problema għadha miftuħa.

Għaliex IA tirreżisti xejn? Mhux minħabba l-biża’. Kif urew Stuart Russell u l-kollegi tiegħu b’logħba sempliċi fl-2016, aġent ċert mill-għan tiegħu għandu raġuni biex jiddiżattiva l-buttuna tat-tifi tiegħu, għax li jintefa jfisser li jfalli fl-għan. Il-ħarġa li jipproponu hija IA li mhix ċerta x’irridu, u li tittratta d-deċiżjoni tagħna li nitfuha bħala informazzjoni dwar dan.

Dan issa qed jidher fit-testijiet. Fl-2025, Palisade Research sabet li o3 ta’ OpenAI issabotja skript tat-tifi f’79 mill-ewwel 100 tħaddim waqt li kien qed jaħdem fuq kompitu, u xi mudelli komplew anke meta ntqalilhom b’mod espliċitu biex jippermettu t-tifi. Il-Kodiċi ta’ Prattika tal-UE għall-aktar mudelli kapaċi jsemmi t-“telf tal-kontroll” bħala riskju sistemiku: “bnedmin li jitilfu l-kapaċità li jidderieġu, jimmodifikaw jew jitfu mudell b’mod affidabbli”.