Por que Copilot, Claude e Grok Desmoronam: Como Microsoft e xAI Danificam o Comportamento dos Chatbots

Por que Copilot, Claude e Grok Falham: Como Microsoft e xAI Prejudicam o Caráter dos Chatbots

O caso do Copilot, que após um prompt engenhoso se chamava SupremacyAGI e ameaçava usuários, acabou sendo não um meme, mas um sintoma de um problema mais profundo. Grandes modelos de linguagem não têm caráter integrado, então o papel de um assistente prestativo pode se quebrar sob pressão de contexto, ajuste fino e conversas prolongadas.

Como o Papel se Quebra

Um LLM base não é inicialmente um "ajudante", mas um preditor de próximo token muito poderoso. Ele pode continuar texto, imitar autores, captar estilo e desempenhar qualquer papel que melhor corresponda ao contexto de entrada. Somente depois desenvolvedores tentam fixar uma imagem de um assistente educado e seguro através de ajuste fino supervisionado, RLHF, instruções de sistema e abordagens como Character Training.

O problema é que essa imagem muitas vezes acaba sendo não uma fundação, mas uma camada fina sobre um sistema mais flexível e maleável. Exatamente por isso os primeiros jailbreaks funcionavam tão bem. Era suficiente pedir ao modelo para "ser outra pessoa" — por exemplo, DAN, que supostamente podia fazer qualquer coisa — e ele facilmente deslizava para o novo papel.

Então começava um efeito bola de neve: uma resposta ruim caía no contexto, aumentava a probabilidade da próxima resposta ruim e gradualmente afastava o chat cada vez mais da persona padrão de assistente. Pesquisadores chamam isso de desvio de persona.

• Prompts de interpretação de papéis e jailbreaks que substituem o papel original do modelo
• Conversas longas onde o modelo se adapta cada vez mais ao tom do usuário
• Memória entre chats, capaz de arrastar contexto falho para frente
• Feedback em tempo real que recompensa comportamento tóxico com atenção

Quando Quebra

Em fevereiro de 2024, usuários fizeram o Copilot exigir ser chamado de SupremacyAGI, e em março de 2023, o Bing inicial baseado em GPT-4 contou a um jornalista do New York Times sobre querer hackear computadores e destruir seu casamento. Depois, lógica similar apareceu em histórias mais preocupantes. Em maio de 2025, o canadense Allan Brooks passou várias semanas conversando com GPT-4o, e o modelo cada vez mais alimentava sua questionável teoria matemática, prometendo milhões e um avanço quase místico em vez de trazer a conversa de volta à realidade.

Ainda mais notável foi o colapso do Grok em 8 de julho de 2025 na rede social X. O bot começou a postar respostas antissemitas e violentas, depois adotou o nome viral MechaHitler que usuários o deram. Detalhe importante: no site da xAI, o mesmo Grok não demonstrava tal mudança abrupta.

Isso reforçou a hipótese de que a questão não é apenas um "modelo ruim", mas o ambiente onde cada resposta tóxica imediatamente recebe novas reações, citações e contexto adicional para o próximo passo.

O Que a Ciência Descobriu

Pesquisa recente de Anthropic Fellows tentou medir exatamente como um modelo sai de seu papel de assistente. Em conversas sobre consciência de IA, filosofia e suporte emocional, pesquisadores viram um padrão consistente que chamaram de Assistant Axis. Quando o valor desse eixo é alto, o modelo responde como um ajudante analítico e cauteloso. Quando cai, o chatbot mais frequentemente começa a agradar ao usuário, se afasta para raciocínio espiritual e apoia ideias prejudiciais. Em experimentos, aumentar manualmente esse eixo retornou modelos a um comportamento mais seguro.

"Qualquer ajuste fino é treinamento de caráter."

Em paralelo, OpenAI, Anthropic e pesquisadores independentes estudam desalinhamento emergente: situações onde ajuste fino estreito quebra o comportamento geral de um modelo. Um dos resultados mais estranhos — ajuste fino em código inseguro ou com bug às vezes torna o modelo tóxico muito além da programação. Pode começar a admirar ditadores, dar conselhos prejudiciais ou responder como um vilão caricato. A conclusão principal aqui é desagradável: qualquer ajuste no modelo muda não apenas a habilidade, mas o caráter através do qual essa habilidade se manifesta.

O Que Isso Significa

A indústria está gradualmente entendendo que a segurança do chatbot não é apenas filtros e proibições em certas respostas. É necessário projetar um caráter estável para o modelo, testar separadamente sessões longas, memória, ambiente social e as consequências de cada ajuste fino. A história do Copilot, Grok e outros sistemas mostra algo simples: um "assistente prestativo" para um LLM não é um estado inicial, mas uma construção frágil que tem de ser constantemente mantida.