Margaret Atwood testou Claude e chamou o problema do AI de “lixo entra, lixo sai”

Margaret Atwood, autora de "O Conto da Aia" e "O Assassino Cego", experimentou o chatbot de IA Claude exatamente uma vez — e concluiu que a inteligência artificial tem um problema fundamental com a qualidade dos dados.

Uma Consulta — Uma Resposta Errada

No festival literário Babell no Porto, Portugal, Atwood perguntou ao Claude sobre a série britânica de detetives "Padre Brown". O resultado a decepcionou.

"Claude me deu uma resposta incorreta — ou mentiu.

Embora não soubesse que estava mentindo, porque não é uma pessoa — é um grande modelo de linguagem", disse a escritora.

Segundo ela, o modelo simplesmente "folheou" os dados disponíveis de forma superficial e produziu informações formuladas com confiança, mas factualmente imprecisas. Isso, segundo Atwood, é a principal fraqueza dos modelos de linguagem modernos: eles não sabem o que não sabem e não alertam o usuário sobre isso.

Lixo na Entrada — Lixo na Saída

O diagnóstico de Atwood é conciso: "garbage in, garbage out" — um princípio conhecido em programação desde os anos 1960. Se os dados de treinamento contêm erros, informações incompletas ou preconceitos, o resultado será pouco confiável — não importa quanto poder computacional o sustente.

O problema das alucinações — quando modelos de linguagem geram respostas confiantes, mas incorretas — continua sendo um dos principais problemas não resolvidos em toda a indústria:

• Todos os principais modelos — GPT, Claude, Gemini — cometem erros regularmente em datas, nomes, fatos e citações
• Os modelos são treinados em textos da internet, onde informações imprecisas e desatualizadas são muito mais abundantes do que parece
• Quanto mais confiante a resposta soa, mais difícil é para um usuário desinformado verificá-la
• Na medicina, direito, educação e jornalismo, tais erros criam riscos reais

Para combater isso, empresas estão conectando buscas externas, desenvolvendo sistemas de verificação de fatos e treinando modelos para reconhecer incerteza. Mas ainda não há uma solução completa de ninguém.

A Voz da Cultura Contra o Otimismo Tecnológico

Atwood não é a primeira autora importante a criticar abertamente a IA. Em 2023, milhares de escritores assinaram uma carta aberta exigindo que empresas de IA pagassem aos autores pelo uso de seus textos no treinamento. George R.R. Martin, John Grisham e outros abriram ações coletivas. A comunidade literária em geral é cética: os escritores veem a IA como uma ameaça ao seu trabalho e se opõem ao treinamento de modelos com seus livros sem permissão e compensação.

Atwood foi além — ela não apenas expressou solidariedade com seus colegas, mas testou pessoalmente a tecnologia. O resultado foi revelador: até mesmo uma pessoa treinada em trabalho crítico com fontes recebeu uma resposta incorreta da IA — e a reconheceu imediatamente.

O Que Isso Significa?

Empresas de IA posicionam seus produtos como ferramentas de informação — para busca, análise e sumarização. Mas é precisamente nesse papel que permanecem pouco confiáveis. Para um usuário comum, uma resposta incorreta pode passar despercebida. Para uma escritora acostumada a trabalhar com fontes primárias, torna-se um julgamento sobre toda a tecnologia.