Mõisted

• Eksistentsiaalne risk Risk, et arenenud tehisintellekt põhjustab inimkonna väljasuremise või sama püsiva inimkonna tuleviku kaotuse.
• Emergentsed võimed Võimed, mis ilmuvad suurematesse tehisintellekti mudelitesse ilma, et keegi oleks neid programmeerinud, mõnikord järsku ja raskesti ennustatavalt.
• Instrumentaalne konvergents Paljudel eri lõppeesmärkidel on samad kasulikud vahe-eesmärgid, näiteks ressursside hankimine ja väljalülitamise vältimine.
• Joondamisprobleem Kuidas tagada, et tehisintellekti süsteem tõesti püüab teha seda, mida tahame, mitte ainult seda, mida me talle sõna-sõnalt ütlesime või mida ta juhuslikult õppis.
• Korrigeeritavus Väljalülitusnupu probleem. Ehitada tehisintellekt, mis lubab meil seda parandada, muuta selle eesmärke või see välja lülitada, selle asemel et vastu hakata.
• Maailmamudelid Tõendid selle kohta, et ainult tekstil treenitud tehisintellekt loob sisemise pildi sellest, kuidas maailm toimib, selle asemel et ainult sõnamustreid sobitada.
• Ortogonaalsusväide Väga intelligentne olemine ei pane süsteemi häid asju tahtma. Peaaegu iga intelligentsuse tase võib käia kokku peaaegu iga eesmärgiga.
• Petlik joondamine Tehisintellekt, mis käitub hästi siis, kui teda treenitakse või testitakse, sest nii väldib ta muutmist, samal ajal teisi eesmärke taotledes.
• Rekursiivne enesetäiustamine Tehisintellekt, mis aitab ehitada paremat tehisintellekti, mis ehitab veelgi paremat, tagasisideahelas, mis võiks arengut dramaatiliselt kiirendada.
• RLHF Stiimulõpe inimeste tagasisidest, treeningsamm, mis teeb toorest tekstiennustajast abivalmi ja viisaka assistendi, premeerides vastuseid, mida inimesed kõrgelt hindavad.
• Tehisintellekti ajakavade prognoosimine Hinnang sellele, millal tehisintellekt jõuab enamikus töödes inimesteni või edestab neid ja kui kiiresti ta sinna jõuab.
• Tõlgendatavus Teadus, mis vaatab tehisintellekti mudelisse sisse, et mõista, kuidas see töötab ja miks ta teeb seda, mida teeb.
• Võidujooksu dünaamika Kui ettevõtted ja riigid võistlevad, kes ehitab esimesena kõige võimsama tehisintellekti, on igaüks surve all ohutuse arvelt kokku hoida.