Machine Intelligence Research Institute (MIRI)

En ideell forskningsorganisation i Berkeley vars arbete bidrog till att grunda fältet AI-anpassning, och som nu kräver ett globalt, upprätthållet stopp för att bygga superintelligens.

MIRI har arbetat med riskerna med artificiell superintelligens i över två decennier, och dess tidiga forskning, som artikeln från 2014 som gav korrigerbarhet dess namn, bidrog till att grunda fältet AI-anpassning. intelligence.org

Den hävdar nu att ”standardföljden av att skapa artificiell superintelligens (ASI) är att mänskligheten dör ut”, och att överlevnad hänger på ”någon form av globalt samordnat och gemensamt upprätthållet moratorium för utvecklingen av ASI”.