Machine Intelligence Research Institute (MIRI)

En nonprofit forskningsorganisation i Berkeley, hvis arbejde var med til at grundlægge feltet AI-afstemning, og som nu kræver et globalt, håndhævet stop for at bygge superintelligens.

MIRI har arbejdet med risiciene ved kunstig superintelligens i over to årtier, og dens tidlige forskning, såsom artiklen fra 2014, der gav korrigerbarhed sit navn, var med til at grundlægge feltet AI-afstemning. intelligence.org

Den argumenterer nu for, at »standardkonsekvensen af at skabe kunstig superintelligens (ASI) er menneskehedens udslettelse«, og at overlevelse afhænger af »en eller anden form for globalt koordineret og kollektivt håndhævet moratorium for udviklingen af ASI«.