Emily Bender explique ce que 'Stochastic Parrots' signifie vraiment, cinq ans plus tard

En mars 2021, quatre linguistes et spécialistes en intelligence artificielle ont publié l'article "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?", qui a introduit la métaphore du "perroquet stochastique" — un système qui prédit statistiquement les mots sans comprendre leur sens ; cinq ans plus tard, l'auteur principal de l'article, Emily Bender, professeure de linguistique informatique à l'Université de Washington, a publié un post analysant les principaux malentendus sur le terme et en a parlé dans une interview avec IEEE Spectrum.

Pourquoi l'article a fait tant de bruit

L'attention portée à l'article a été alimentée par un scandale : peu avant sa publication, Google a licencié deux de ses coautrices — les chercheuses Timnit Gebru et Margaret Mitchell. L'article arguait que les grands modèles de langage génèrent du texte en prédisant statistiquement des séquences probables de mots, plutôt qu'en comprenant ce qui est dit — d'où la métaphore du « perroquet » qui répète des modèles sans comprendre.

• L'article a été publié en mars 2021 et compte quatre auteurs.
• Google a licencié les coautrices Timnit Gebru et Margaret Mitchell peu avant la publication.
• Pendant cinq ans, la métaphore s'est largement répandue au-delà du milieu académique et a inspiré des projets comme le robot portable "Stochastic Parrot", créé au MIT Media Lab.
• Pour le cinquième anniversaire de l'article, Bender a écrit un post intitulé "Stochastic Parrots: Frequently Unasked Questions" pour dissiper les malentendus sur le terme.

Comment la métaphore s'est étendue au-delà du milieu académique

À l'origine, le « perroquet stochastique » était un terme utilisé par un cercle restreint de spécialistes en linguistique informatique et en éthique de l'IA. Mais au cours de cinq ans, la métaphore s'est infiltrée dans la conversation générale sur l'intelligence artificielle au point de devenir le point de départ de projets bien au-delà de la linguistique — y compris le robot portable mentionné ci-dessus « Stochastic Parrot » du MIT Media Lab, nommé directement en l'honneur du terme de Bender et de ses coauteurs. C'est cet usage généralisé, mais souvent simplifié, de la métaphore qui a poussé Bender à écrire un post clarificateur pour le cinquième anniversaire de l'article.

Qu'est-ce qui ne va pas avec le terme « intelligence artificielle »

Une section de l'interview de Bender porte sur le concept même d'« intelligence artificielle » — selon elle, il est tout aussi trompeur que les interprétations simplifiées du « perroquet stochastique ». Elle se décrit comme une chercheuse qui étudie le fonctionnement du langage et comment les gens l'utilisent ; en linguistique informatique, elle forme des étudiants qui créeront des technologies du langage.

« La linguistique au sens le plus large est l'étude de la façon dont fonctionne le langage et comment nous travaillons avec le langage.

J'y contribue et je travaille également en linguistique informatique, formant des étudiants qui créeront des technologies du langage », a déclaré Emily Bender dans une interview avec IEEE Spectrum.

Cette façon de formuler la tâche est importante pour comprendre sa critique initiale : Bender ne parle pas en tant qu'adversaire de la technologie en général, mais en tant que linguiste insistant sur la précision du langage utilisé pour décrire les capacités des modèles de langage — et c'est précisément ce manque de précision du langage, selon elle, qui sous-tend la plupart des malentendus sur l'article de 2021.

Ce que cela signifie

Cinq ans après sa publication, la métaphore du « perroquet stochastique » vit sa propre vie dans le discours populaire sur l'IA, s'étant éloignée de son contexte académique original. Par son post et son interview, Bender tente de restaurer la précision du langage dans la conversation, la précision qui était à la base de sa critique initiale des grands modèles de langage.

Questions fréquemment posées

Que signifie le terme « perroquet stochastique » ?

C'est une métaphore de l'article de 2021 : les grands modèles de langage prédisent statistiquement des séquences probables de mots, mais ne comprennent pas le sens de ce qui est dit — c'est-à-dire qu'ils « imitent » le langage comme un perroquet, plutôt que de le comprendre.

Pourquoi l'article sur les « perroquets stochastiques » est-il

considéré comme controversé ?

Parce que peu avant sa publication en mars 2021, Google a licencié deux des quatre auteurs — Timnit Gebru et Margaret Mitchell — ce qui a attiré une attention supplémentaire des médias et du milieu académique sur le travail.

Où

Emily Bender a-t-elle expliqué les malentendus sur l'article ?

Elle a écrit un post intitulé "Stochastic Parrots: Frequently Unasked Questions" et a discuté séparément de ses arguments dans une interview avec IEEE Spectrum, coïncidant avec le cinquième anniversaire de la publication de l'article original.