Machine Intelligence Research Institute (MIRI)

Een non-profit onderzoeksinstituut in Berkeley waarvan het werk hielp het vakgebied van AI-afstemming te grondvesten, en dat nu oproept tot een wereldwijde, gehandhaafde stop op het bouwen van superintelligentie.

MIRI werkt al meer dan twintig jaar aan de risico’s van kunstmatige superintelligentie, en zijn vroege onderzoek, zoals het paper uit 2014 dat corrigeerbaarheid haar naam gaf, hielp het vakgebied van AI-afstemming te grondvesten. intelligence.org

Het betoogt nu dat ‘het standaardgevolg van het creëren van kunstmatige superintelligentie (ASI) het uitsterven van de mensheid is’, en dat overleven afhangt van ‘een vorm van wereldwijd gecoördineerd en collectief gehandhaafd moratorium op de ontwikkeling van ASI’.