Emily Bender explica qué significa realmente 'Stochastic Parrots', cinco años después

En marzo de 2021, cuatro lingüistas y especialistas en inteligencia artificial publicaron el artículo "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?", que introdujo la metáfora del "loro estocástico" en la conversación pública — un sistema que predice estadísticamente palabras sin comprender el significado; cinco años después, la autora principal del artículo, Emily Bender, profesora de lingüística computacional de la Universidad de Washington, publicó un artículo analizando los principales conceptos erróneos sobre el término y habló de ello en una entrevista con IEEE Spectrum.

Por qué el artículo causó tanto revuelo

La atención al artículo fue alimentada por un escándalo: poco antes de su publicación, Google despidió a dos de sus coautoras — las investigadoras Timnit Gebru y Margaret Mitchell. El trabajo argumentaba que los grandes modelos de lenguaje generan texto prediciendo estadísticamente secuencias probables de palabras, en lugar de comprender lo que se dice — de ahí la metáfora del "loro" que repite patrones sin entender.

• El artículo fue publicado en marzo de 2021 y tiene cuatro autores.
• Google despidió a las coautoras Timnit Gebru y Margaret Mitchell poco antes de la publicación.
• A lo largo de cinco años, la metáfora se extendió mucho más allá del ámbito académico e inspiró proyectos como el robot portátil "Stochastic Parrot", creado en MIT Media Lab.
• En el quinto aniversario del artículo, Bender escribió el artículo "Stochastic Parrots: Frequently Unasked Questions" para aclarar los conceptos erróneos sobre el término.

Cómo la metáfora trascendió el ámbito académico

Originalmente, el "loro estocástico" era un término utilizado por un círculo reducido de especialistas en lingüística computacional y ética de la IA. Pero a lo largo de cinco años, la metáfora se infiltró en la conversación masiva sobre inteligencia artificial de tal manera que se convirtió en el punto de partida para proyectos mucho más allá de la lingüística — incluyendo el mencionado robot portátil "Stochastic Parrot" de MIT Media Lab, nombrado directamente en honor al término de Bender y sus coautores. Fue este uso generalizado, pero a menudo demasiado simplificado, de la metáfora lo que impulsó a Bender a escribir un artículo aclaratorio para el quinto aniversario del artículo.

Qué tiene de malo el término "inteligencia artificial"

Una sección de la entrevista de Bender se centra en el concepto mismo de "inteligencia artificial" — en su opinión, es igual de engañoso que las interpretaciones simplificadas del "loro estocástico". Se describe a sí misma como investigadora que estudia cómo funciona el lenguaje y cómo las personas lo utilizan; en lingüística computacional, enseña a estudiantes que crearán tecnologías del lenguaje.

"La lingüística en el sentido más amplio es el estudio de cómo funciona el lenguaje y cómo trabajamos con el lenguaje.

Contribuyo a esto, y también trabajo en lingüística computacional, enseñando a estudiantes que crearán tecnologías del lenguaje", dijo Emily Bender en una entrevista con IEEE Spectrum.

Esta forma de enmarcar la tarea es importante para entender su crítica original: Bender no habla como opositora a la tecnología en general, sino como lingüista que insiste en la precisión del lenguaje utilizado para describir las capacidades de los modelos de lenguaje — y es precisamente esta falta de precisión en el lenguaje, en su opinión, lo que subyace a la mayoría de los conceptos erróneos sobre el artículo de 2021.

Qué significa esto

Cinco años después de su publicación, la metáfora del "loro estocástico" vive su propia vida en el discurso popular sobre IA, habiendo divergido de su contexto académico original. A través de su artículo y entrevista, Bender intenta restaurar la precisión del lenguaje a la conversación, la precisión que fue la base de su crítica original a los grandes modelos de lenguaje.

Preguntas frecuentes

¿Qué significa el término "loro estocástico"?

Es una metáfora del artículo de 2021: los grandes modelos de lenguaje predicen estadísticamente secuencias probables de palabras, pero no entienden el significado de lo que se dice — es decir, "repiten" el lenguaje como un loro, en lugar de comprenderlo.

¿Por qué se considera controversial el artículo de los "loros estocásticos"?

Porque poco antes de su publicación en marzo de 2021, Google despidió a dos de los cuatro autores — Timnit Gebru y Margaret Mitchell — lo que atrajo atención adicional de los medios de comunicación y la comunidad académica al trabajo.

¿Dónde explicó

Emily Bender los conceptos erróneos sobre el artículo?

Escribió el artículo "Stochastic Parrots: Frequently Unasked Questions" y discutió separadamente sus argumentos en una entrevista con IEEE Spectrum, coincidiendo con el quinto aniversario de la publicación del artículo original.