MIT Technology Review→ original

Modelos LLM ficaram presos a um pensamento padronizado — uma startup quer corrigir isso

Peça a qualquer chatbot para dizer um número aleatório de 1 a 10 — você quase certamente receberá 7. Isso é sintoma de um problema sistêmico: todos os…

Processado por IA de MIT Technology Review; editado por Hamidun News
Modelos LLM ficaram presos a um pensamento padronizado — uma startup quer corrigir isso
Fonte: MIT Technology Review. Colagem: Hamidun News.
◐ Ouvir artigo

Claude, ChatGPT e Gemini demonstram respostas igualmente previsíveis para consultas semelhantes — em 1º de julho de 2026, MIT Technology Review identificou este fenômeno como um "pensamento em grupo" sistêmico de modelos de linguagem e relatou sobre uma startup trabalhando para superá-lo.

O Teste dos Números: Por Que Isso Não É Uma Coincidência?

Peça a qualquer chatbot popular que cite um número aleatório entre 1 e 10 — você quase certamente obterá 7. Pergunte novamente — você ouvirá 3 ou 4, depois 8 ou 9. O padrão se reproduz com consistência impressionante em diferentes modelos de diferentes empresas.

A explicação é simples: todos os LLMs principais foram treinados em corpora web semelhantes, onde "7" como resposta para essa pergunta aparece com mais frequência do que outros números — as pessoas mesmas chamam sete de "o número mais aleatório". O aprendizado por reforço de feedback humano (RLHF) ainda encoraja respostas "seguras" e esperadas: aquelas que recebem classificações mais altas de avaliadores humanos com mais frequência. Os modelos foram literalmente treinados para dar uma resposta previsível.

  • Sete como um número "aleatório" é um exemplo clássico de pensamento padronizado de LLM
  • O padrão é característico de Claude (Anthropic), ChatGPT (OpenAI) e Gemini (Google DeepMind)
  • A razão é dados de treinamento sobrepostos e procedimentos RLHF semelhantes em todos os principais laboratórios

Onde o Pensamento em Grupo Causa Dano Real

Números são apenas um sintoma visível. Em tarefas reais, o problema é maior: modelos reproduzem os mesmos clichês culturais, formulam recomendações estratégicas de maneiras semelhantes, oferecem soluções de marketing comparáveis. Quando uma empresa usa múltiplos LLMs para "diversificar perspectivas", ela frequentemente obtém versões parafraseadas da mesma opinião — com a ilusão de independência.

"Criamos um ecossistema onde todos os modelos veem o mundo da mesma forma — porque leram a mesma coisa", — afirma MIT

Technology Review.

O problema é especialmente agudo onde a originalidade importa: geração de hipóteses científicas, conteúdo não convencional, avaliação de riscos não triviais. "Verificação independente" através de múltiplos LLMs em tais casos cria uma ilusão de diversidade — mas não diversidade real.

O Que a Startup Propõe

MIT Technology Review descreve uma startup focada em métodos para superar o "pensamento padronizado" em modelos de linguagem. A arquitetura exata da solução não foi divulgada. A indústria, enquanto isso, está discutindo várias abordagens para este desafio:

  • Treinamento em dados mais diversos com inclusão deliberada de perspectivas de nicho
  • Estocasticidade gerenciada no estágio de ajuste fino — encorajando variabilidade como um objetivo explícito
  • Sistemas de ensemble onde múltiplos modelos com "preconceitos" diferentes debatem uns com os outros
  • Métricas de diversidade de respostas como parte obrigatória de avaliações — juntamente com precisão e segurança

O Que Isso Significa

Se os métodos para superar o "consenso do grupo" conseguirem estabelecer um novo padrão da indústria, isso mudará como avaliamos sistemas de IA: diversidade e independência de respostas se tornarão requisitos mensuráveis iguais a precisão ou segurança. Para usuários corporativos, isso abre a possibilidade de obter perspectivas genuinamente diferentes da IA, em vez de um ponto de vista estatisticamente médio em formulações diferentes.

ZK
Hamidun News
Notícias de AI sem ruído. Seleção editorial diária de mais de 400 fontes. Produto de Zhemal Khamidun, Head of AI na Alpina Digital.

Quer parar de ler sobre IA e começar a usar?

AI News é um feed curado de notícias de IA. A Hamidun Academy ensina você a usar IA no trabalho.

O que você acha?
Carregando comentários…