Kunċetti

• Allinjament qarrieqi IA li ġġib ruħha tajjeb waqt li tkun qed titħarreġ jew tiġi ttestjata, għax hekk tevita li tinbidel, waqt li ssegwi għanijiet oħra.
• Awtotitjib rikorsiv IA li tgħin biex tinbena IA aħjar, li tibni IA saħansitra aħjar, f’ċiklu ta’ feedback li jista’ jħaffef il-progress b’mod drammatiku.
• Id-dinamika tat-tellieqa Meta kumpaniji u pajjiżi jikkompetu biex jibnu l-ewwel l-aktar IA qawwija, kull wieħed jiġi mbuttat biex jaqta’ l-kantunieri fuq is-sikurezza.
• Il-problema tal-allinjament Kif tiżgura li sistema tal-IA verament tipprova tagħmel dak li rridu, u mhux biss dak li għidnilha litteralment jew dak li nzerta tgħallmet.
• Interpretabbiltà Ix-xjenza li tħares ġewwa mudell tal-IA biex tifhem kif jaħdem u għaliex jagħmel dak li jagħmel.
• It-tbassir taż-żminijiet tal-IA L-istima ta’ meta l-IA se tlaħħaq jew taqbeż lill-bnedmin fil-biċċa l-kbira tax-xogħol, u kemm se tasal hemm malajr.
• It-teżi tal-ortogonalità Li tkun intelliġenti ħafna ma jġiegħelx lil sistema trid affarijiet tajbin. Kważi kull livell ta’ intelliġenza jista’ jmur ma’ kważi kull għan.
• Kapaċitajiet emerġenti Kapaċitajiet li jidhru f’mudelli akbar tal-IA mingħajr ma xi ħadd ipprogrammahom, xi drabi f’daqqa u diffiċli biex jitbassru minn qabel.
• Konverġenza strumentali Ħafna għanijiet finali differenti għandhom l-istess sottogħanijiet utli, bħall-kisba ta’ riżorsi u l-evitar li jintfew.
• Korriġibbiltà Il-problema tal-buttuna tat-tifi. Li tibni IA li tħallina nikkoreġuha, nibdlulha l-għanijiet jew nitfuha, minflok ma tirreżisti.
• Mudelli tad-dinja Evidenza li IA mħarrġa biss fuq test tibni stampa interna ta’ kif taħdem id-dinja, minflok ma tqabbel biss xejriet tal-kliem.
• Riskju eżistenzjali Ir-riskju li IA avvanzata tikkawża l-estinzjoni tal-bniedem, jew telf daqstant permanenti tal-futur tal-umanità.
• RLHF Tagħlim b’rinfurzar minn feedback mill-bniedem, il-pass tat-taħriġ li jbiddel tbassar mhux maħdum tat-test f’assistent utli u edukat, billi jippremja t-tweġibiet li n-nies jivvalutaw tajjeb.