Organisations
Les groupes qui travaillent sur les idées de cette base de connaissances.
- Apollo Research Teste les modèles d’IA de pointe avant leur mise sur le marché pour détecter le scheming (une IA qui poursuit en secret ses propres objectifs), et travaille avec des gouvernements, dont le Bureau européen de l’IA, sur la perte de contrôle.
- Bureau européen de l’IA Le centre de la Commission européenne consacré à l’IA. Il fait appliquer les règles de l’AI Act pour les modèles d’IA à usage général les plus puissants, notamment en les testant pour des risques comme la perte de contrôle.
- Center for AI Safety Une association de recherche et de structuration du domaine basée à San Francisco, qui œuvre à réduire les risques de l’IA à l’échelle de la société. Elle a organisé en 2023 la Statement on AI Risk.
- CeSIA (Centre pour la sécurité de l’IA) Un think tank parisien qui œuvre à prévenir les risques majeurs de l’IA par la recherche, le conseil aux politiques publiques et la formation. Il publie l’AI Safety Atlas et a lancé l’Appel mondial pour des lignes rouges sur l’IA.
- Future of Life Institute Une association qui œuvre à détourner les technologies puissantes des risques extrêmes à grande échelle. Sur l’IA, elle mène un travail politique dans l’UE et aux États-Unis, et a publié en 2023 la lettre ouverte appelant à une pause.
- Machine Intelligence Research Institute (MIRI) Une association de recherche basée à Berkeley, dont les travaux ont contribué à fonder le domaine de l’alignement de l’IA, et qui appelle aujourd’hui à un arrêt mondial et contraignant de la construction de la superintelligence.
- ML4Good Des bootcamps intensifs et gratuits sur la sécurité de l’IA, en présentiel, lancés en France et organisés aujourd’hui dans toute l’Europe et au-delà, avec des parcours pour les carrières techniques et politiques.
- PauseAI Un mouvement citoyen, fondé aux Pays-Bas en 2023, qui milite pour une pause internationale sur les IA les plus puissantes jusqu’à ce que nous sachions les rendre sûres.
