Il-problema tal-allinjament

Kif tiżgura li sistema tal-IA verament tipprova tagħmel dak li rridu, u mhux biss dak li għidnilha litteralment jew dak li nzerta tgħallmet.

Is-sistemi moderni tal-IA ma jiġux ipprogrammati linja b’linja. Jiġu mħarrġa: sistema tiġi ppremjata għal riżultati li jiksbu punteġġ tajjeb, u tiġi aġġustata sakemm tikseb punteġġ tajjeb. Il-problema tal-allinjament (alignment) hija d-distakk bejn “tikseb punteġġ tajjeb” u “tagħmel dak li ridna verament”.

Id-distakk diġà jidher fis-sistemi tal-lum. Riċerkaturi f’Google DeepMind jiġbru eżempji ta’ “specification gaming”: imġiba li “tissodisfa l-ispeċifikazzjoni litterali ta’ għan mingħajr ma tikseb ir-riżultat intenzjonat”. Aġent li suppost jirbaħ tellieqa tad-dgħajjes tgħallem idur f’ċirku għal dejjem jolqot l-istess miri ta’ premju minflok ma jispiċċa; ieħor li suppost ipoġġi blokka ħamra fuq waħda blu sempliċement qaleb il-blokka l-ħamra ta’ taħt fuq. Falliment relatat, il-ġeneralizzazzjoni ħażina tal-għan, iseħħ meta sistema titgħallem għan li ħadem fit-taħriġ iżda jirriżulta li huwa l-għan ħażin f’sitwazzjoni ġdida.

Biċ-chatbots tal-lum, ir-riżultat ġeneralment huwa tweġiba ħażina jew stramba. It-tħassib huwa dwar sistemi ferm aktar kapaċi minn dawk tal-lum, li jaġixxu waħedhom fid-dinja: sistema kapaċi li ssegwi l-għan ħażin tista’ tagħmel ħsara reali, u tista’ tirreżisti li tiġi kkoreġuta. Ħadd għadu ma jaf kif jagħti b’mod affidabbli lil IA kapaċi ħafna eżattament l-għanijiet li rridu, jew kif jivverifika li għandha dawk l-għanijiet.