Auto-amélioration récursive

Développeurs, développeur, développeuse, programmeur, programmeuse, informaticien, informaticienne, ingénieur logiciel, code, informatique, Scientifiques et chercheurs, scientifique, chercheur, chercheuse, recherche, universitaire, laboratoire, labo

Une IA qui aide à construire une meilleure IA, qui en construit une meilleure encore, dans une boucle de rétroaction qui pourrait accélérer considérablement le progrès.

La plupart des technologies ne s’améliorent pas d’elles-mêmes. L’IA le pourrait : concevoir et entraîner des systèmes d’IA est en soi un travail intellectuel, et si l’IA devient douée pour ce travail, chaque génération pourrait aider à construire la suivante, plus puissante. L’AI Safety Atlas décrit cela comme « un système d’IA qui devient meilleur pour s’améliorer lui-même », une boucle de rétroaction qui ne cesse de s’accélérer. L’idée remonte au statisticien I. J. Good, qui soutenait en 1965 qu’une machine plus intelligente que nous pourrait concevoir des machines encore meilleures, menant à une « explosion d’intelligence ».

La vitesse d’une telle boucle est débattue. Dans le scénario du « décollage rapide », elle s’emballe vite, laissant peu de temps pour réagir. Dans celui du « décollage lent », le progrès s’accélère plus progressivement, mais selon une estimation toujours 10 à 100 fois plus vite que la révolution industrielle. L’Atlas note que la différence revient souvent à savoir si les problèmes seraient repérables et corrigibles à temps. Des scénarios comme AI 2027 font de l’IA qui fait de la recherche sur l’IA le point de bascule.

C’est important pour la sécurité, car une boucle rapide réduit le temps pour repérer et corriger les problèmes. Le code de bonnes pratiques de l’UE pour les modèles d’IA les plus performants range l’« auto-amélioration » et le fait que l’IA « crée ou améliore de manière autonome des modèles d’IA » parmi les façons dont les humains pourraient en perdre le contrôle.