Emily Bender explica, cinco años después, qué significa realmente el término Stochastic Parrots

En marzo de 2021, cuatro lingüistas y especialistas en inteligencia artificial publicaron el artículo «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?», que popularizó la metáfora del «loro estocástico»: un sistema que predice palabras de forma estadística sin comprender su significado. Cinco años después, la autora principal del trabajo, Emily Bender, profesora de lingüística computacional en la Universidad de Washington, ha publicado un post en el que desmonta los principales malentendidos sobre el término y ha hablado de ello en una entrevista con IEEE Spectrum.

Por qué el artículo hizo tanto ruido

Un escándalo avivó la atención sobre el artículo: poco antes de su publicación, Google despidió a dos de sus coautoras, las investigadoras Timnit Gebru y Margaret Mitchell. El trabajo sostenía que los grandes modelos de lenguaje generan texto prediciendo estadísticamente secuencias probables de palabras, no razonando sobre lo que dicen. De ahí la metáfora del «loro» que repite patrones sin entenderlos.

• El artículo se publicó en marzo de 2021 y tiene cuatro autores.
• Google despidió a las coautoras Timnit Gebru y Margaret Mitchell poco antes de la publicación.
• En cinco años, la metáfora ha trascendido con creces el ámbito académico y ha inspirado proyectos como «Stochastic Parrot», un robot que se lleva sobre el hombro, creado en el MIT Media Lab.
• Con motivo del quinto aniversario del artículo, Bender escribió el post «Stochastic Parrots: Frequently Unasked Questions» para desmontar los malentendidos sobre el término.

Cómo la metáfora salió del ámbito académico

En su origen, «loro estocástico» era un término reservado a un círculo reducido de especialistas en lingüística computacional y ética de la IA. Pero en cinco años la metáfora ha calado tanto en la conversación pública sobre inteligencia artificial que se ha convertido en punto de partida de proyectos muy alejados de la lingüística, como el ya mencionado robot de hombro «Stochastic Parrot» del MIT Media Lab, bautizado directamente en honor al término de Bender y sus coautores. Precisamente ese uso amplio, pero a menudo simplificado, de la metáfora llevó a Bender a escribir un post aclaratorio con motivo del quinto aniversario del artículo.

Qué falla en el término «inteligencia artificial»

Parte de la entrevista con Bender se centra en el propio concepto de «inteligencia artificial», que, en su opinión, induce a error con la misma frecuencia que las interpretaciones simplificadas del «loro estocástico». Bender se define como una investigadora que estudia cómo funciona el lenguaje y cómo lo usan las personas, y en lingüística computacional forma a estudiantes que se dedicarán a crear tecnologías del lenguaje.

«La lingüística, en su sentido más amplio, es el estudio de cómo funciona el lenguaje y de cómo funcionamos nosotros con el lenguaje.

Yo contribuyo a ello y, además, trabajo en lingüística computacional formando a estudiantes que crearán tecnologías del lenguaje», explicó Emily Bender en la entrevista con IEEE Spectrum.

Este enfoque es clave para entender su crítica original: Bender no habla como detractora de la tecnología en general, sino como lingüista que exige precisión en el lenguaje con el que se describen las capacidades de los modelos de lenguaje. Y, a su juicio, es precisamente la imprecisión de ese lenguaje la que está en la raíz de la mayoría de los malentendidos sobre el artículo de 2021.

Qué significa esto

Cinco años después de su publicación, la metáfora del «loro estocástico» tiene vida propia en el discurso popular sobre la IA, desligada de su contexto académico original. Con su post y su entrevista, Bender intenta devolver a la conversación la precisión de las formulaciones sobre las que construyó su crítica inicial de los grandes modelos de lenguaje.

Preguntas frecuentes

¿Qué significa el término «loro estocástico»?

Es una metáfora del artículo de 2021: los grandes modelos de lenguaje predicen estadísticamente secuencias probables de palabras, pero no comprenden el significado de lo que dicen. Es decir, «repiten» el lenguaje como un loro en lugar de entenderlo.

¿Por qué se considera polémico el artículo sobre los «loros estocásticos»?

Porque poco antes de su publicación, en marzo de 2021, Google despidió a dos de sus cuatro autores, Timnit Gebru y Margaret Mitchell, lo que atrajo una atención adicional de los medios y de la comunidad académica.

¿Dónde explicó

Emily Bender los malentendidos sobre el artículo?

Escribió el post «Stochastic Parrots: Frequently Unasked Questions» y, por separado, expuso sus argumentos en una entrevista con IEEE Spectrum con motivo del quinto aniversario de la publicación del artículo original.