Capacités émergentes

Développeurs, développeur, développeuse, programmeur, programmeuse, informaticien, informaticienne, ingénieur logiciel, code, informatique, Écrivains et journalistes, écrivain, écrivaine, auteur, autrice, journaliste, rédacteur, rédactrice, traducteur, traductrice, médias, presse

Des aptitudes qui apparaissent dans de plus grands modèles d’IA sans que personne les ait programmées, parfois brusquement et difficiles à prévoir.

Personne n’enseigne à un modèle de langage l’arithmétique, la traduction ou la programmation compétence par compétence. Ses fabricants l’entraînent à prédire du texte, l’agrandissent, et découvrent ensuite ce qu’il sait faire. Un article de 2022 de chercheurs de Google et d’ailleurs qualifiait une aptitude d’« émergente » si elle est « absente des modèles plus petits mais présente dans les plus grands », c’est-à-dire qu’on ne pouvait pas la prévoir en extrapolant à partir des modèles plus petits.

Le caractère soudain de ces sauts est débattu. Un article de 2023 soutenait que beaucoup d’entre eux tiennent à la façon dont les tests sont notés : avec une notation tout ou rien, l’amélioration paraît brusque, tandis qu’avec des mesures qui accordent des points partiels, elle est souvent progressive et prévisible. Les deux camps s’accordent sur ce qui compte pour la sécurité : les nouvelles aptitudes viennent de la taille plutôt que de la conception, de sorte que les fabricants d’un modèle apprennent ce qu’il sait faire en le testant après l’avoir construit.

C’est pourquoi les tests avant la mise sur le marché comptent, et pourquoi les modèles continuent de surprendre jusqu’à leurs propres concepteurs. L’AI Safety Atlas note que les capacités de l’IA « surprennent constamment les experts depuis plus de dix ans ».