Cinco anos depois, Emily Bender explica o que o termo Stochastic Parrots realmente significa

Em março de 2021, quatro linguistas e especialistas em inteligência artificial publicaram o artigo «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?». O trabalho popularizou a metáfora do «papagaio estocástico»: um sistema que prevê palavras estatisticamente, sem compreender o significado. Cinco anos depois, a autora principal do artigo, Emily Bender, professora de linguística computacional da Universidade de Washington, publicou um post analisando os principais equívocos sobre o termo e falou sobre o tema em entrevista ao IEEE Spectrum.

Por que o artigo causou tanto barulho

Um escândalo ampliou a atenção ao artigo: pouco antes da publicação, o Google demitiu duas de suas coautoras, as pesquisadoras Timnit Gebru e Margaret Mitchell. O trabalho argumentava que os grandes modelos de linguagem geram texto prevendo estatisticamente sequências prováveis de palavras, e não compreendendo o que dizem. Daí a metáfora do «papagaio», que repete padrões sem entendê-los.

• O artigo foi publicado em março de 2021 e tem quatro autores.
• O Google demitiu as coautoras Timnit Gebru e Margaret Mitchell pouco antes da publicação.
• Em cinco anos, a metáfora foi muito além da academia e inspirou projetos como o «Stochastic Parrot», um robô de ombro criado no MIT Media Lab.
• Para marcar os cinco anos do artigo, Bender escreveu o post «Stochastic Parrots: Frequently Unasked Questions», com o objetivo de desfazer equívocos sobre o termo.

Como a metáfora saiu da academia

No início, «papagaio estocástico» era um termo restrito a um pequeno círculo de especialistas em linguística computacional e ética de IA. Em cinco anos, porém, a metáfora entrou tanto no debate popular sobre inteligência artificial que virou ponto de partida para projetos muito além da linguística. Um exemplo é o já citado robô de ombro «Stochastic Parrot», do MIT Media Lab, batizado diretamente em homenagem ao termo de Bender e seus coautores. Foi justamente esse uso amplo, mas muitas vezes simplificado, da metáfora que levou Bender a escrever um post explicativo no aniversário de cinco anos do artigo.

O problema com o termo «inteligência artificial»

Uma parte da entrevista de Bender trata do próprio conceito de «inteligência artificial». Para ela, o termo induz ao erro com a mesma frequência que as interpretações simplificadas do «papagaio estocástico». Bender se descreve como uma pesquisadora que estuda como a linguagem funciona e como as pessoas lidam com ela. Na linguística computacional, ela forma estudantes que vão desenvolver tecnologias de linguagem.

«A linguística, no sentido mais amplo, é o estudo de como a linguagem funciona e de como nós trabalhamos com a linguagem.

Eu contribuo para isso e também atuo na linguística computacional, formando estudantes que vão criar tecnologias de linguagem», disse Emily Bender em entrevista ao IEEE Spectrum.

Essa definição é importante para entender sua crítica original. Bender não fala como uma opositora da tecnologia em geral, e sim como uma linguista que insiste na precisão da linguagem usada para descrever as capacidades dos modelos de linguagem. Na visão dela, é justamente a imprecisão dessa linguagem que está na raiz da maioria dos equívocos sobre o artigo de 2021.

O que isso significa

Cinco anos após a publicação, a metáfora do «papagaio estocástico» ganhou vida própria no discurso popular sobre IA, descolada de seu contexto acadêmico original. Com o post e a entrevista, Bender tenta devolver ao debate a precisão das formulações sobre as quais construiu sua crítica original aos grandes modelos de linguagem.

Perguntas frequentes

O que significa o termo «papagaio estocástico»?

É uma metáfora do artigo de 2021: os grandes modelos de linguagem preveem estatisticamente sequências prováveis de palavras, mas não compreendem o significado do que dizem. Ou seja, eles «repetem» a linguagem como um papagaio, em vez de compreendê-la.

Por que o artigo sobre «papagaios estocásticos» é considerado polêmico?

Porque, pouco antes de sua publicação, em março de 2021, o Google demitiu dois dos quatro autores, Timnit Gebru e Margaret Mitchell. O episódio atraiu atenção extra da imprensa e da comunidade acadêmica para o trabalho.

Onde Emily Bender explicou os equívocos sobre o artigo?

Ela escreveu o post «Stochastic Parrots: Frequently Unasked Questions» e, separadamente, apresentou seus argumentos em uma entrevista ao IEEE Spectrum, publicada por ocasião dos cinco anos do artigo original.