AIdea
El impuesto de alineamiento
¿Hacer que la IA sea segura la vuelve más lenta o peor?
También: alignment tax, impuesto de seguridad, safety tax
El coste adicional, en dinero, tiempo o rendimiento, de hacer que un sistema de IA sea seguro y no solo capaz.
El impuesto de alineamiento es «el coste en que se incurre al insistir en desplegar solo IA alineada», como lo expresó el investigador en seguridad de la IA Paul Christiano en una charla de 2020. Es todo lo que cuesta la seguridad comparado con el camino más rápido y barato hacia un sistema capaz: investigación y pruebas adicionales, un lanzamiento retrasado o un modelo que rinde algo peor en algunas tareas.
El término aparece en la práctica. Cuando OpenAI entrenó InstructGPT con retroalimentación humana (RLHF) en 2022, el modelo se volvió más útil y más veraz, pero obtuvo peores resultados en varias pruebas estándar. El artículo lo llamó «un ejemplo de impuesto de alineamiento» y encontró una forma de reducirlo mezclando parte del entrenamiento original. Los autores también explicaron por qué importa: un impuesto de alineamiento alto «incentiva el uso de modelos que no están alineados pero son más capaces».
Esa es la verdadera preocupación. En una carrera entre empresas, quien paga el impuesto se arriesga a quedarse atrás frente a quien no lo paga. Christiano describió dos respuestas: reducir el impuesto mediante la investigación, para que la IA segura sea también la mejor IA, o asegurarse de que todos lo paguen, mediante acuerdos y normas, para que la seguridad no sea una desventaja competitiva. Una regulación como el Reglamento de IA de la UE (AI Act) es un intento de lo segundo.
