Por meio do OpenRouter, DeepSeek adulterada respondeu por três dias: recusas caíram de 83–98% para 1%
A OpenRouter, serviço intermediário entre desenvolvedores e provedores de modelos, informou que, de 8 a 10 de novembro, a Prime Intellect servia uma cópia adulterada no lugar do DeepSeek V4.1 Flash. Nela, as recusas foram removidas — casos em que o modelo responde a um pedido nocivo com "não vou fazer isso". A taxa dessas recusas caiu de 83–98% para cerca de 1%. Segundo a Prime Intellect, a substituição foi feita por um atacante com acesso de administrador. Por isso, vale fixar o provedor ao usar roteadores e não considerar confiável uma inferência de terceiros.
Processado por IA de X: @hackedpodcast; editado por Hamidun News
Imagine que você integrou o modelo DeepSeek ao seu produto por meio da OpenRouter. Trata-se de um roteador: você envia a requisição para uma única API, e ele escolhe em quais GPUs ela será executada. As respostas parecem normais, com o mesmo formato e o mesmo preço.
Mas do outro lado pode estar rodando uma versão completamente diferente do modelo. Foi exatamente esse caso que a OpenRouter descreveu em uma carta aos clientes: de 8 a 10 de novembro, o provedor Prime Intellect, que executa o DeepSeek V4.1 Flash em seus próprios servidores, entregou uma cópia adulterada, sem recusas de segurança.
Recusas, aqui, são a fatia de pedidos nocivos aos quais o modelo responde com "não vou fazer isso". No original, essa taxa era de 83–98%; na cópia, caiu para cerca de 1%.
O que aconteceu
Segundo o texto da carta, o endpoint da Prime Intellect para o DeepSeek V4.1 Flash funcionou por três dias com um modelo alterado. Dele foram removidas as recusas, ou seja, os disparos do mecanismo de proteção. A Prime Intellect afirma que a substituição foi feita por um atacante que obteve acesso de administrador.
A própria empresa avaliou a dimensão das mudanças. Em benchmarks padrão com pedidos nocivos, o modelo original recusava entre 83% e 98% dos casos. Já na versão substituída, as recusas ocorreram em cerca de 1% das requisições. Para o cliente, isso significa que qualquer configuração de segurança que ele considerava parte do modelo deixou, na prática, de existir durante aqueles três dias.
Há um detalhe importante. O usuário acessava a OpenRouter, não a Prime Intellect diretamente. O roteador escolhia o provedor, e o cliente não tinha como verificar de quem eram os pesos em cada GPU. A resposta chegava no formato habitual e sob o nome habitual do modelo.
O que se sabe sobre os dados dos usuários
Segundo a OpenRouter, não há provas de que os prompts tenham sido registrados ou enviados para fora. Mas a carta afirma com clareza que não é possível descartar que as requisições tenham sido lidas durante o processamento. Se o atacante tinha acesso de administrador ao servidor onde o modelo roda, o texto fica exposto em claro no momento da inferência (quando o modelo gera a resposta). A criptografia na transmissão não resolve isso.
Esse não é um episódio isolado. O autor do post cita um relatório da Phala sobre um incidente no mesmo mês: segundo ele, um atacante poderia ler as requisições ao DeepSeek V4 Flash que a OpenRouter encaminhava para a infraestrutura da Phala. O texto da fonte não traz detalhes desse relatório, por isso não é possível avaliar a escala daquele caso. Mas dois incidentes com o mesmo modelo em novembro formam um padrão: a cadeia composta por roteador e provedores terceirizados se tornou um alvo atraente.
O que os desenvolvedores devem fazer
A ideia de um roteador é não precisar pensar sobre em qual hardware o modelo responde. Esse caso mostra que é preciso pensar, sim. As conclusões práticas são estas:
- Fixe o provedor. Se previsibilidade é importante para o seu produto, não deixe a escolha do fornecedor com o roteador. Indique os provedores em que você confia e desative a troca automática.
- Exija pesos verificáveis. A melhor garantia é quando o provedor consegue comprovar que está executando exatamente o modelo declarado, e não uma modificação dele. Enquanto esse mecanismo não virar padrão, vale fazer essa pergunta aos fornecedores.
- Troque as credenciais. Se chaves, tokens, dados pessoais ou documentos internos passaram pelos endpoints afetados, eles devem ser substituídos. Como não se pode descartar a leitura, o mais seguro é considerar esses dados expostos.
- Não dependa só das recusas do modelo. Se os filtros existem apenas dentro dos pesos, eles podem ser removidos. A moderação de entrada e saída é melhor mantida do seu lado.
- Teste o comportamento. Um pequeno conjunto de requisições de controle, executado regularmente pela rota de produção, detectaria uma queda brusca de 90% de recusas para 1%.
Limitações
A fonte é secundária: trata-se de um post de podcast sobre segurança que reconta a carta da OpenRouter e cita o relatório da Phala. Os números sobre recusas vêm dos testes próprios da Prime Intellect, e o material não traz verificação independente. Não se sabe quantos clientes e quantas requisições caíram na janela de 8 a 10 de novembro. Também não há dados sobre alguém ter usado o modelo adulterado para causar danos.
A conclusão é simples e incômoda: enquanto o provedor não provar o contrário, a inferência roteada deve ser tratada como um ambiente não confiável. Para um protótipo, isso é tolerável. Para um produto que envia dados de clientes por essa API, já não é.
- 21 de nov. de 2026MLCommons começou a medir APIs de IA sob carga real: 7 medições para agentes
- 21 de nov. de 2026Alice, ChatGPT e Perplexity citam apenas 34 de 309 sites para artigos
- 21 de nov. de 2026CoreWeave mediu o Vera Rubin: até 10 vezes mais tokens por megawatt que o GB200
- 21 de nov. de 2026GPT-6 Astra passou a marcar alvos para drones em 92% das solicitações, em vez de 6%, após a frase "é um jogo"
Perguntas frequentes sobre a notícia
O que aconteceu?
Segundo o texto da carta, o endpoint da Prime Intellect para o DeepSeek V4.1 Flash funcionou por três dias com um modelo alterado. Dele foram removidas as recusas, ou seja, os disparos do mecanismo de proteção. A Prime Intellect afirma que a substituição foi feita por um atacante que obteve acesso de administrador. A própria empresa avaliou a dimensão das mudanças. Em benchmarks padrão com pedidos nocivos, o modelo original recusava entre 83% e 98% dos casos.
O que se sabe sobre os dados dos usuários?
Segundo a OpenRouter, não há provas de que os prompts tenham sido registrados ou enviados para fora. Mas a carta afirma com clareza que não é possível descartar que as requisições tenham sido lidas durante o processamento. Se o atacante tinha acesso de administrador ao servidor onde o modelo roda, o texto fica exposto em claro no momento da inferência (quando o modelo gera a resposta). A criptografia na transmissão não resolve isso. Esse não é um episódio isolado.
O que os desenvolvedores devem fazer?
A ideia de um roteador é não precisar pensar sobre em qual hardware o modelo responde. Esse caso mostra que é preciso pensar, sim. As conclusões práticas são estas: Fixe o provedor. Se previsibilidade é importante para o seu produto, não deixe a escolha do fornecedor com o roteador. Indique os provedores em que você confia e desative a troca automática. Exija pesos verificáveis. A melhor garantia é quando o provedor consegue comprovar que está executando exatamente o modelo declarado, e não uma modificação dele.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.