Margaret Atwood testou o Claude e resumiu o problema da IA: "lixo entra, lixo sai"

Margaret Atwood, autora de "O Conto da Aia" e "O Assassino Cego", usou o chatbot Claude uma única vez. A experiência a levou à conclusão de que a inteligência artificial tem um problema fundamental com a qualidade dos dados.

Uma pergunta, uma resposta errada

No festival literário Babell, no Porto (Portugal), Atwood contou que perguntou ao Claude sobre a série policial britânica "Father Brown". O resultado a decepcionou.

"O Claude me deu uma resposta errada, ou mentiu.

Mas ele não sabia que estava mentindo, porque não é uma pessoa: é um grande modelo de linguagem", disse a escritora. Segundo ela, o modelo apenas "passou os olhos" superficialmente pelos dados disponíveis e entregou uma informação formulada com segurança, mas factualmente imprecisa. Para Atwood, essa é justamente a principal fraqueza dos modelos de linguagem atuais: eles não sabem o que não sabem e não avisam o usuário sobre isso.

Lixo entra, lixo sai O diagnóstico de

Atwood é direto: "garbage in, garbage out", princípio conhecido na programação desde os anos 1960. Se os dados de treinamento contêm erros, informações incompletas ou vieses, o resultado também será pouco confiável, por mais poder computacional que haja por trás dele. As alucinações, quando modelos de linguagem geram respostas confiantes, mas erradas, continuam sendo um dos principais problemas sem solução de todo o setor: Todos os grandes modelos (GPT, Claude, Gemini) erram com frequência datas, nomes, fatos e citações Os modelos são treinados com textos da internet, onde há muito mais informação imprecisa e desatualizada do que parece Quanto mais segura soa a resposta, mais difícil é para um usuário leigo verificá-la Na medicina, no direito, na educação e no jornalismo, esses erros criam riscos reais Para combater o problema, as empresas conectam busca externa, desenvolvem sistemas de checagem de fatos e treinam os modelos para admitir incerteza.

Mas, por enquanto, ninguém tem uma solução completa.

A voz da cultura contra o tecno-otimismo

Atwood não é a primeira grande autora a criticar abertamente a IA. Em 2023, milhares de escritores assinaram uma carta aberta exigindo que as empresas de IA pagassem os autores pelo uso de seus textos no treinamento. George R.

R. Martin, John Grisham e outros entraram com ações coletivas na Justiça. A comunidade literária, em geral, é cética: os escritores enxergam a IA como uma ameaça ao seu trabalho e se opõem ao treinamento de modelos com seus livros sem autorização nem remuneração.

Atwood foi um passo além. Além de se solidarizar com os colegas, ela testou a tecnologia pessoalmente. O resultado foi revelador: mesmo alguém acostumado a lidar criticamente com fontes recebeu uma resposta errada da IA, e percebeu o erro na hora.

O que isso significa

As empresas de IA posicionam seus produtos como ferramentas para trabalhar com informação: busca, análise, sumarização. Mas é justamente nesse papel que eles ainda não são confiáveis. Para um usuário comum, uma resposta errada pode passar despercebida. Para uma escritora acostumada a trabalhar com fontes primárias, ela se torna uma sentença contra a tecnologia inteira.