AIdea
Perroquet stochastique
L’IA comprend-elle quelque chose, ou ne fait-elle que répéter ce qu’elle a lu ?
- Écrivains et journalistes
- Élèves et étudiants
- Enseignants
Aussi : perroquets stochastiques, stochastic parrot, stochastic parrots
L’affirmation selon laquelle les modèles de langage assemblent des mots selon des probabilités, sans aucune compréhension du sens.
L’expression vient d’un article de 2021 de la linguiste Emily M. Bender, de la chercheuse en IA Timnit Gebru et de leurs collègues. Elles décrivaient un modèle de langage comme un système qui assemble des suites de mots vues dans ses données d’entraînement, selon les probabilités de leurs combinaisons, « sans aucune référence au sens ». « Stochastique » signifie régi par le hasard ; les perroquets répètent des mots qu’ils ne comprennent pas.
Les principales mises en garde de l’article portaient sur des dommages bien réels aujourd’hui : le coût environnemental et financier de modèles toujours plus grands, d’énormes données d’entraînement non examinées qui intègrent des biais, et le risque que les gens fassent confiance à un texte fluide derrière lequel il n’y a rien. Ces préoccupations restent valables. L’expression elle-même a pris une vie propre, comme raccourci pour « ça ne comprend rien, en réalité », et sert souvent à soutenir que ces systèmes sont moins capables qu’ils n’en ont l’air.
Sur cette question plus étroite, les données ont évolué. Des chercheurs qui regardent à l’intérieur des modèles ont trouvé des représentations internes du monde : d’un plateau de jeu qu’on n’a jamais montré au modèle, de l’endroit où se trouvent des lieux et du moment où des événements ont eu lieu, et d’étapes intermédiaires de raisonnement, comme « Dallas est au Texas » sur le chemin de « la capitale est Austin ». L’AI Safety Atlas conclut que les modèles compriment ce qu’ils apprennent en quelque chose qui ressemble à des modèles du monde, quoique de façon inégale. Savoir si cela compte comme « comprendre » est en partie une question de définition. Pour la sécurité, ce qui compte, c’est que ces systèmes peuvent faire davantage, et de façon plus inattendue, que ne le suggère l’image du perroquet.
