AIdea
La taxe d’alignement
Rendre l’IA sûre la rend-elle plus lente ou moins bonne ?
Aussi : alignment tax, taxe de sécurité, safety tax
Le coût supplémentaire, en argent, en temps ou en performances, pour rendre un système d’IA sûr et pas seulement performant.
La taxe d’alignement est « le coût engendré par l’exigence de ne déployer que des IA alignées », selon la formule du chercheur en sécurité de l’IA Paul Christiano lors d’une conférence en 2020. C’est tout ce que coûte la sécurité par rapport à la voie la plus rapide et la moins chère vers un système performant : de la recherche et des tests en plus, un lancement retardé, ou un modèle un peu moins bon sur certaines tâches.
Le terme apparaît dans la pratique. Quand OpenAI a entraîné InstructGPT avec des retours humains (RLHF) en 2022, le modèle est devenu plus utile et plus véridique, mais a obtenu de moins bons résultats à plusieurs tests standard. L’article a qualifié cela d’« exemple de taxe d’alignement », et a trouvé un moyen de la réduire en mélangeant une partie de l’entraînement d’origine. Les auteurs ont aussi expliqué pourquoi c’est important : une taxe d’alignement élevée « incite à utiliser des modèles non alignés mais plus performants ».
C’est là la vraie inquiétude. Dans une course entre entreprises, celle qui paie la taxe risque de se faire distancer par celle qui ne la paie pas. Christiano décrivait deux réponses : réduire la taxe grâce à la recherche, pour que l’IA sûre soit aussi la meilleure, ou faire en sorte que tout le monde la paie, par des accords et des règles, pour que la sécurité ne soit pas un désavantage concurrentiel. Une réglementation comme le règlement européen sur l’IA (AI Act) est une tentative de la seconde.
