Machine Intelligence Research Institute (MIRI)

Une association de recherche basée à Berkeley, dont les travaux ont contribué à fonder le domaine de l’alignement de l’IA, et qui appelle aujourd’hui à un arrêt mondial et contraignant de la construction de la superintelligence.

Le MIRI travaille sur les risques de la superintelligence artificielle depuis plus de deux décennies, et ses premières recherches, comme l’article de 2014 qui a nommé la corrigibilité, ont contribué à fonder le domaine de l’alignement de l’IA. intelligence.org

Il soutient aujourd’hui que « la conséquence par défaut de la création d’une superintelligence artificielle (ASI) est l’extinction de l’humanité », et que la survie dépend d’« une forme de moratoire coordonné à l’échelle mondiale et appliqué collectivement sur le développement de l’ASI ».