Machine Intelligence Research Institute (MIRI)

Għaqda tar-riċerka mingħajr skop ta’ qligħ f’Berkeley li x-xogħol tagħha għen biex jitwaqqaf il-qasam tal-allinjament tal-IA, u li issa qed titlob waqfien globali u infurzat tal-bini tas-superintelliġenza.

MIRI ilha taħdem fuq ir-riskji tas-superintelliġenza artifiċjali għal aktar minn għoxrin sena, u r-riċerka bikrija tagħha, bħad-dokument tal-2014 li ta l-isem lill-korriġibbiltà, għenet biex jitwaqqaf il-qasam tal-allinjament tal-IA. intelligence.org

Issa targumenta li “il-konsegwenza awtomatika tal-ħolqien tas-superintelliġenza artifiċjali (ASI) hija l-estinzjoni tal-bniedem”, u li s-sopravivenza tiddependi fuq “xi forma ta’ moratorju fuq l-iżvilupp tal-ASI kkoordinat globalment u infurzat b’mod kollettiv”.