Concepto

Convergencia instrumental

Muchos objetivos finales distintos comparten los mismos subobjetivos útiles, como conseguir recursos y evitar que los apaguen.

Entrada provisional. Explica el concepto con palabras sencillas y luego enlaza a las mejores fuentes primarias.

Para saber más

AI Safety Atlas curso · inglés

AIdeas que llevan aquí

Basta con desenchufarla ¿Por qué no podemos simplemente apagar una IA peligrosa?
El giro traicionero ¿Podría una IA portarse bien hasta ser lo bastante fuerte como para no necesitarlo?
Maximizador de clips ¿Por qué un objetivo inofensivo podría ser peligroso para una IA poderosa?

Quién trabaja en esto

Aún no hay nada aquí.

Hecho por la comunidad

Juegos, herramientas e investigación de personas que trabajan en la seguridad de la IA. Cada proyecto se abre en su propia web.

Takeoff: Europe’s Next Move A 15-minute browser game. You’re Europe’s AI envoy, picking a policy every half-year while the US and China race ahead. Your dashboards show how safe the AI looks; how safe it really was comes out at the end.
Juego

Escribe a tus eurodiputados · 2 minutos