It-teżi tal-ortogonalità

Li tkun intelliġenti ħafna ma jġiegħelx lil sistema trid affarijiet tajbin. Kważi kull livell ta’ intelliġenza jista’ jmur ma’ kważi kull għan.

Tama komuni hija li IA intelliġenti biżżejjed tasal biex tifhem x’inhu sew u tagħmlu. It-teżi tal-ortogonalità, imfassla mill-filosfu Nick Bostrom fl-2012, tgħid li dan ma jsegwix: kemm hija intelliġenti sistema u x’qed tipprova tikseb huma mistoqsijiet separati (“ortogonali”, bħal żewġ assi fuq graff). Fi kliem il-wiki ta’ LessWrong, “hemm imħuħ possibbli b’intelliġenza għolja li jsegwu kwalunkwe numru ta’ għanijiet differenti”.

Huwa għalhekk li l-massimizzatur tal-labar tal-karti mhuwiex kontradizzjoni. IA li hija brillanti fl-ippjanar iżda li l-għan tagħha huwa “aktar labar tal-karti” m’għandha l-ebda raġuni mibnija fiha biex jimpurtaha minn xi ħaġa oħra.

It-teżi ma tgħidx li l-IA se jkollha għanijiet strambi. Tgħid li l-intelliġenza waħedha mhux se ssalvana: l-għanijiet iridu jiddaħħlu apposta u jiġu ċċekkjati, u dan huwa dak li titratta l-problema tal-allinjament.