Machine Intelligence Research Institute (MIRI)

Egy berkeley-i nonprofit kutatószervezet, amelynek munkája segített megalapozni az MI-összehangolás területét, és amely ma a szuperintelligencia építésének globális, kikényszerített leállítását követeli.

A MIRI több mint két évtizede foglalkozik a mesterséges szuperintelligencia kockázataival, és korai kutatásai, például a korrigálhatóságnak nevet adó 2014-es tanulmány, segítettek megalapozni az MI-összehangolás területét. intelligence.org

Ma azt állítja, hogy „a mesterséges szuperintelligencia (ASI) létrehozásának alapértelmezett következménye az emberiség kihalása”, és hogy a túlélés „az ASI fejlesztésére vonatkozó valamilyen globálisan koordinált és közösen kikényszerített moratóriumon” múlik.