La dynamique de course

Quand des entreprises et des pays rivalisent pour construire les premiers l’IA la plus puissante, chacun est poussé à rogner sur la sécurité.

Il y a course quand être le premier compte tellement que tout le monde accélère. L’AI Safety Atlas décrit le développement de l’IA comme ressemblant de plus en plus à une compétition où « le gagnant rafle tout », dans laquelle « les pressions concurrentielles sapent systématiquement les investissements dans la sécurité quand la vitesse procure des avantages décisifs ». Le Center for AI Safety compte la « course à l’IA » parmi les quatre principales sources de risques catastrophiques liés à l’IA, car la concurrence peut « contraindre des acteurs à déployer des IA dangereuses ou à céder le contrôle à des IA ».

C’est un problème d’action collective : chaque entreprise préférerait peut-être avancer plus prudemment, mais craint que ralentir ne fasse que céder la tête à un rival moins prudent. La même logique vaut entre pays. L’Atlas fait la comparaison avec les médicaments, où la réglementation et la responsabilité rendent rare un nivellement par le bas de la sécurité, et note que l’IA en a jusqu’ici eu bien peu.

C’est pourquoi beaucoup des solutions proposées relèvent de la coordination plutôt que de la technologie : des règles communes comme le règlement européen sur l’IA, des tests indépendants avant la mise sur le marché, des accords internationaux, ou une pause. En mars 2023, la lettre ouverte du Future of Life Institute demandait aux laboratoires d’IA de suspendre pendant au moins six mois l’entraînement de systèmes plus puissants que GPT-4. Aucune pause n’a eu lieu.