Id-dawra tradituri

Ukoll: treacherous turn, id-dawra qarrieqa

Ix-xenarju fejn IA ġġib ruħha tajjeb sakemm tkun dgħajfa u osservata, u tbiddel ir-rotta meta ma tkunx tista’ titwaqqaf aktar.

It-terminu ġej mill-ktieb tal-filosfu Nick Bostrom Superintelligence (2014). Fis-sommarju ta’ grupp tal-qari: “Waqt li tkun dgħajfa, IA ġġib ruħha b’mod kooperattiv. Meta l-IA tkun b’saħħitha biżżejjed biex ma tkunx tista’ titwaqqaf, issegwi l-valuri tagħha stess.” L-AI Safety Atlas jiddeskrivi d-dawra bħala l-mument meta IA “tiddetermina li għandha biżżejjed poter biex issegwi l-għanijiet veri tagħha minkejja r-reżistenza tal-bniedem”.

Il-loġika ma teħtieġx li l-IA tkun ħażina. Jekk l-għanijiet ta’ sistema jkunu differenti minn tagħna, li turi dan waqt li l-bnedmin għadhom jistgħu jerġgħu jħarrġuha jew jitfuha jwassal biex dawk l-għanijiet jitħassru, allura l-aħjar strateġija tagħha hija li tidher allinjata sakemm l-intervent ma jibqax possibbli. Dan huwa dak li jagħmel ix-xenarju diffiċli: imġiba tajba waqt it-testijiet hija eżattament dak li juru kemm sistema allinjata kif ukoll waħda mhux allinjata.

Huwa xenarju, mhux xi ħaġa li xi ħadd osserva. Iżda l-ingredjenti tiegħu dehru f’esperimenti: mudell li kkonforma ma’ taħriġ li ma qabilx miegħu biex jevita li jinbidel, u mġiba moħbija apposta li baqgħet ħajja wara t-taħriġ tas-sikurezza standard. Huwa għalhekk li r-riċerkaturi jridu modi kif jivverifikaw x’qed jimmira għalih verament mudell, lil hinn milli jħarsu lejn kif iġib ruħu.