Emily Bender explica o que 'Stochastic Parrots' realmente significa, cinco anos depois

Em março de 2021, quatro linguistas e especialistas em inteligência artificial publicaram o artigo "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?", que introduziu a metáfora do "papagaio estocástico" na conversa pública — um sistema que prevê estatisticamente palavras sem compreender o significado; cinco anos depois, a autora principal do artigo, Emily Bender, professora de linguística computacional da Universidade de Washington, publicou um post analisando as principais concepções equivocadas sobre o termo e discutiu isso em uma entrevista com IEEE Spectrum.

Por que o artigo causou tanto alvoroço

A atenção ao artigo foi alimentada por um escândalo: pouco antes de sua publicação, o Google demitiu duas de suas coautoras — as pesquisadoras Timnit Gebru e Margaret Mitchell. O trabalho argumentava que os grandes modelos de linguagem geram texto prevendo estatisticamente sequências prováveis de palavras, em vez de compreender o que foi dito — daí a metáfora do "papagaio" que repete padrões sem entender.

• O artigo foi publicado em março de 2021 e tem quatro autores.
• O Google demitiu as coautoras Timnit Gebru e Margaret Mitchell pouco antes da publicação.
• Ao longo de cinco anos, a metáfora foi muito além do mundo acadêmico e inspirou projetos como o robô portátil "Stochastic Parrot", criado no MIT Media Lab.
• No quinto aniversário do artigo, Bender escreveu o post "Stochastic Parrots: Frequently Unasked Questions" para esclarecer os equívocos sobre o termo.

Como a metáfora foi além do mundo acadêmico

Originalmente, o "papagaio estocástico" era um termo usado por um círculo restrito de especialistas em linguística computacional e ética de IA. Mas ao longo de cinco anos, a metáfora penetrou a conversa em massa sobre inteligência artificial de tal forma que se tornou o ponto de partida para projetos muito além da linguística — incluindo o mencionado robô portátil "Stochastic Parrot" do MIT Media Lab, nomeado diretamente em homenagem ao termo de Bender e seus coautores. Foi esse uso generalizado, mas frequentemente simplificado demais, da metáfora que levou Bender a escrever um post esclarecedor para o quinto aniversário do artigo.

O que há de errado com o termo "inteligência artificial"

Uma seção da entrevista de Bender aborda o conceito em si de "inteligência artificial" — em sua opinião, é tão enganoso quanto as interpretações simplificadas do "papagaio estocástico". Ela se descreve como pesquisadora que estuda como a linguagem funciona e como as pessoas a usam; em linguística computacional, ensina estudantes que criarão tecnologias de linguagem.

"A linguística no sentido mais amplo é o estudo de como a linguagem funciona e como trabalhamos com a linguagem.

Contribuo para isso e também trabalho em linguística computacional, ensinando estudantes que criarão tecnologias de linguagem", disse Emily Bender em uma entrevista com IEEE Spectrum.

Essa forma de enquadrar a tarefa é importante para entender sua crítica original: Bender não fala como uma opositora à tecnologia em geral, mas como uma linguista que insiste na precisão da linguagem usada para descrever as capacidades dos modelos de linguagem — e é precisamente essa falta de precisão na linguagem, em sua opinião, que está na base da maioria dos equívocos sobre o artigo de 2021.

O que isso significa

Cinco anos depois de sua publicação, a metáfora do "papagaio estocástico" vive sua própria vida no discurso popular sobre IA, tendo se afastado de seu contexto acadêmico original. Por meio de seu post e entrevista, Bender tenta restaurar a precisão da linguagem à conversa, a precisão que foi a base de sua crítica original aos grandes modelos de linguagem.

Perguntas frequentes

O que significa o termo "papagaio estocástico"?

É uma metáfora do artigo de 2021: grandes modelos de linguagem preveem estatisticamente sequências prováveis de palavras, mas não compreendem o significado do que foi dito — ou seja, "repetem" a linguagem como um papagaio, em vez de compreendê-la.

Por que o artigo sobre "papagaios estocásticos" é considerado polêmico?

Porque pouco antes de sua publicação em março de 2021, o Google demitiu dois dos quatro autores — Timnit Gebru e Margaret Mitchell — o que atraiu atenção adicional da mídia e da comunidade acadêmica para o trabalho.

Onde Emily Bender explicou os equívocos sobre o artigo?

Ela escreveu o post "Stochastic Parrots: Frequently Unasked Questions" e discutiu separadamente seus argumentos em uma entrevista com IEEE Spectrum, coincidindo com o quinto aniversário da publicação do artigo original.