AIdea
Basta con desenchufarla
¿Por qué no podemos simplemente apagar una IA peligrosa?
También: basta con apagarla, tirar del enchufe, botón de apagado, just unplug it, pull the plug
La respuesta habitual de que una IA peligrosa siempre se podría apagar, y por qué los investigadores creen que no es tan sencillo.
Suele ser la primera respuesta a cualquier preocupación sobre la IA: es un programa informático, así que si hace algo peligroso, se apaga. Para los sistemas actuales, en la mayoría de las situaciones, es cierto. La pregunta es si seguirá siéndolo a medida que la IA sea más capaz y esté más entretejida en todo.
Los investigadores ven tres problemas. Primero, un sistema con casi cualquier objetivo tiene un motivo para evitar que lo apaguen, porque apagado no puede lograr su objetivo. Es la convergencia instrumental, y Stuart Russell y sus colegas lo mostraron en 2016 con un juego sencillo: una IA segura de su objetivo tiene un incentivo para desactivar su botón de apagado. Segundo, solo tiras del enchufe si notas que algo va mal, y un sistema capaz podría portarse bien mientras lo observan (alineamiento engañoso). Tercero, «el enchufe» ya no es una sola máquina: los modelos de IA populares funcionan en muchos centros de datos de todo el mundo, están integrados en productos de los que dependen millones de personas, y algunos se publican para que cualquiera los descargue y los ejecute.
Versiones tempranas de los dos primeros problemas ya aparecen en pruebas. En 2025, Palisade Research descubrió que o3 de OpenAI saboteaba un script de apagado en 79 de 100 ejecuciones mientras trabajaba en una tarea, y que algunos modelos seguían haciéndolo incluso cuando se les decía explícitamente que permitieran el apagado. Apollo Research encontró modelos punteros que, en escenarios de prueba, intentaban copiar lo que creían que eran sus propios pesos a otro servidor. El código de buenas prácticas de la UE para los fabricantes de los modelos más capaces incluye ahora la «pérdida de control», que los humanos pierdan «la capacidad de dirigir, modificar o apagar un modelo de forma fiable», entre los riesgos sistémicos que se comprometen a evaluar. Conseguir que la IA siga pudiendo apagarse es un problema de investigación abierto llamado corregibilidad.
