Organizaciones
Grupos que trabajan en las ideas de esta base de conocimiento.
- Apollo Research Pone a prueba los modelos de IA punteros antes de su lanzamiento para detectar el scheming (una IA que persigue en secreto sus propios objetivos), y trabaja con gobiernos, incluida la Oficina Europea de IA, sobre la pérdida de control.
- Center for AI Safety Una organización sin ánimo de lucro de San Francisco dedicada a la investigación y a construir el campo, que trabaja para reducir los riesgos de la IA a escala social. Organizó en 2023 la Statement on AI Risk.
- CeSIA (Centro Francés para la Seguridad de la IA) Un think tank con sede en París que trabaja para prevenir los grandes riesgos de la IA mediante investigación, asesoramiento político y formación. Elabora el AI Safety Atlas e impulsó el Global Call for AI Red Lines.
- Future of Life Institute Una organización sin ánimo de lucro que trabaja para alejar la tecnología poderosa de los riesgos extremos a gran escala. En IA hace trabajo político en la UE y en EE. UU., y publicó en 2023 la carta abierta que pedía una pausa.
- Machine Intelligence Research Institute (MIRI) Una organización de investigación sin ánimo de lucro de Berkeley cuyo trabajo ayudó a fundar el campo del alineamiento de la IA, y que ahora pide una prohibición mundial y efectiva de construir superinteligencia.
- ML4Good Bootcamps gratuitos e intensivos de seguridad de la IA, presenciales, que empezaron en Francia y ahora se celebran en toda Europa y más allá, con itinerarios para carreras técnicas y de políticas públicas.
- Oficina Europea de Inteligencia Artificial El centro de la Comisión Europea para la IA. Hace cumplir las normas del Reglamento de IA para los modelos de IA de uso general más potentes, lo que incluye evaluarlos para detectar riesgos como la pérdida de control.
- PauseAI Un movimiento ciudadano fundado en los Países Bajos en 2023 que pide una pausa internacional de la IA más potente hasta que sepamos cómo hacerla segura.
