Chatbots de IA respondem pior a usuários vulneráveis

Há anos, a indústria de tecnologia nos garante que a inteligência artificial é a grande niveladora, uma ferramenta que entrega conhecimento de igual qualidade a um professor de Harvard e a um calouro de uma universidade do interior. Um novo estudo do MIT Center for Constructive Communication derruba esse mito com precisão cirúrgica: os principais modelos de IA dão, de forma sistemática, respostas menos precisas a usuários com menor domínio do inglês, menos educação formal e origem não ocidental. Em outras palavras, os chatbots funcionam melhor para quem já tem acesso a informação de qualidade sem eles.

Para entender a dimensão do problema, é preciso contexto. Os maiores modelos de linguagem, do ChatGPT ao Claude e ao Gemini, foram treinados principalmente com dados em inglês criados por um grupo demográfico específico: falantes nativos instruídos, em sua maioria dos EUA e da Europa Ocidental. Quando o modelo "pensa", ele se apoia nos padrões aprendidos desse corpus. Isso não é um bug, é uma característica da arquitetura, mas as consequências são bem concretas e socialmente perigosas.

Os pesquisadores do MIT analisaram como a qualidade das respostas muda conforme o perfil do usuário. Eles testaram cenários em que as perguntas eram formuladas com marcas típicas de domínio limitado do idioma: sintaxe fora do padrão, vocabulário atípico, construções com influência de sotaque. Os resultados foram reveladores: os modelos não apenas entendiam pior essas consultas, como davam informações factualmente menos precisas. O problema não se resume a o chatbot pedir que a pergunta seja reformulada. Ele responde com confiança, só que responde pior. Isso é especialmente perigoso porque o usuário não recebe nenhum sinal de que a qualidade caiu.

O mecanismo é multifacetado. Primeiro, os dados de treinamento refletem a visão de mundo e as referências culturais da classe instruída americana. Quando o modelo interpreta uma consulta ambígua, ele faz suposições, e essas suposições são estatisticamente ajustadas a um determinado perfil social. Segundo, construções linguísticas fora do padrão reduzem a confiança do modelo na interpretação da intenção do usuário, o que leva a respostas menos relevantes ou verificadas com menos cuidado. Terceiro, existe o chamado "viés cultural": os mesmos conceitos, médicos, jurídicos ou financeiros, têm conotações e contextos diferentes em cada cultura, e os modelos muitas vezes os ignoram.

As consequências desse desequilíbrio vão muito além do debate acadêmico. Pense em quem mais recorre às ferramentas de IA em busca de informações críticas sobre saúde, direitos, educação e emprego: justamente quem não pode pagar um advogado ou um médico. Um migrante tentando entender as regras de visto. Um estudante de primeira geração na família buscando ajuda para entrar na universidade. Um idoso com habilidades linguísticas limitadas conferindo o esquema de um medicamento. Para essas pessoas, um chatbot de IA não é um brinquedo conveniente, mas uma alternativa real a serviços profissionais que estão fora do alcance delas. E são exatamente elas que o sistema atende pior.

Para a indústria, este estudo deveria ser um sinal de virada. OpenAI, Google, Anthropic e outras empresas investem recursos significativos para melhorar a precisão e a segurança de seus modelos, mas os benchmarks padrão medem o desempenho com entradas idealizadas. Se a qualidade da resposta se degrada de forma substancial quando o idioma de entrada foge do padrão, os índices de precisão divulgados simplesmente não refletem a experiência real de grande parte dos usuários. A indústria precisa de novas métricas, que levem em conta a diversidade demográfica e linguística dos cenários de teste.

O estudo do MIT não é uma sentença contra a tecnologia, mas um diagnóstico de seu estado atual. Os modelos de linguagem aprendem com dados criados por pessoas e herdam a desigualdade estrutural embutida neles. Enquanto as abordagens de treinamento e avaliação não se tornarem radicalmente mais inclusivas, as ferramentas de IA vão reproduzir e agravar a desigualdade que prometem superar. Uma tecnologia que funciona melhor para quem menos precisa dela não é um instrumento neutro de progresso. É o espelho do sistema de privilégios existente, só que em versão digital.