Machine Intelligence Research Institute (MIRI)

Una organización de investigación sin ánimo de lucro de Berkeley cuyo trabajo ayudó a fundar el campo del alineamiento de la IA, y que ahora pide una prohibición mundial y efectiva de construir superinteligencia.

El MIRI lleva más de dos décadas trabajando en los riesgos de la superinteligencia artificial, y sus primeras investigaciones, como el artículo de 2014 que dio nombre a la corregibilidad, ayudaron a fundar el campo del alineamiento de la IA. intelligence.org

Ahora sostiene que «la consecuencia por defecto de la creación de una superinteligencia artificial (ASI) es la extinción humana», y que la supervivencia depende de «alguna forma de moratoria sobre el desarrollo de la ASI coordinada a escala mundial y aplicada colectivamente».