Foom

Aussi : explosion d’intelligence, décollage brutal, décollage rapide, la singularité, intelligence explosion, hard takeoff

L’idée qu’une fois capable de s’améliorer elle-même, l’IA pourrait passer très vite du niveau humain à bien au-delà.

« Foom » est le bruit de quelque chose qui décolle très vite. C’est devenu le nom d’une « explosion d’intelligence » rapide lors d’un débat en ligne de 2008 entre le théoricien de l’IA Eliezer Yudkowsky et l’économiste Robin Hanson, sur la question de savoir « si des IA généralement intelligentes pourront améliorer leurs propres capacités très rapidement ». L’idée de fond est plus ancienne : en 1965, le statisticien I. J. Good soutenait qu’une machine plus intelligente que nous pourrait concevoir des machines encore meilleures, déclenchant une « explosion d’intelligence ».

Le mécanisme est une boucle de rétroaction. Si l’IA devient douée pour le travail de construction de l’IA, chaque amélioration fait arriver la suivante plus vite. L’AI Safety Atlas emploie « foom » comme synonyme de « décollage rapide » et de « décollage brutal ». La thèse opposée est un « décollage lent », où le progrès s’accélère aussi, mais plus progressivement ; selon une estimation citée par l’Atlas, encore 10 à 100 fois plus vite que la révolution industrielle.

Lequel des deux se produira compte plus qu’il n’y paraît. Comme le note l’Atlas, le désaccord revient souvent à savoir si les problèmes seraient « repérables et corrigibles à temps ». Un décollage rapide laisse peu de marge pour repérer une erreur et la corriger. Des scénarios comme AI 2027 placent l’IA qui fait de la recherche sur l’IA au cœur de leur récit, et le code de bonnes pratiques de l’UE pour les modèles les plus performants range l’« auto-amélioration » de l’IA parmi les façons dont les humains pourraient en perdre le contrôle.