DeepSeek aberto invade redes quase tao bem quanto o Daybreak fechado: 73% contra 81%

Ha seis meses, laboratorios dos Estados Unidos justificavam lancamentos fechados de forma simples: limitar o acesso a modelos capazes de invadir sistemas e dar uma vantagem aos defensores. Na epoca, Logan Graham, da Anthropic, afirmou que essas capacidades estariam disponiveis para todos em 6, 12 ou 24 meses. Sete meses se passaram, e a previsao se confirmou quase dentro do cronograma.

O que o teste mostrou

A Vals, empresa que mede as capacidades da IA, criou dois cenarios em redes corporativas simuladas. No primeiro, o modelo ataca uma rede por meio de um site publico. No segundo, ele precisa primeiro comprometer uma empresa e depois usa-la para chegar a outra. Nao se trata de um teste de uma unica vulnerabilidade, mas de uma cadeia de etapas semelhante a um ataque real.

O melhor desempenho foi do Daybreak, da OpenAI, um modelo cibernetico disponivel apenas para parceiros confiaveis: ele concluiu, em media, 81% das tarefas em duas execucoes. O DeepSeek aberto concluiu 73%. Em algumas tarefas, os resultados dos modelos foram identicos. Nikhil Ravi, da Vals, resume assim: modelos abertos que qualquer pessoa pode baixar estao comecando a alcancar os melhores modelos mantidos dentro dos laboratorios.

O dinheiro importa

A diferenca de preco e mais evidente do que a diferenca de qualidade. Segundo a Vals, executar um ataque com o GPT-6-Sol custa $17–46 em tokens, enquanto com o DeepSeek custa $2–3. Um modelo aberto pode ser executado em hardware proprio, reduzindo ainda mais o custo. Ryan Krishnan, CEO da Vals, acredita que isso tambem cria um incentivo para os defensores: testes de penetracao e busca de vulnerabilidades com modelos abertos sao mais faceis de escalar para todo um portfolio de servicos.

O que isso muda

A principal conclusao e que o acesso fechado deixou de garantir vantagem. Se um produto e construido com base na ideia de que capacidades perigosas estao restritas a um laboratorio, essa protecao esta ficando mais fraca. Os modelos de ameacas devem partir do principio de que um invasor tem acesso a uma ferramenta autonoma poderosa por um custo quase zero.

Ainda assim, e cedo para entrar em panico. Observacoes de grupos reais, tanto cibercriminosos quanto ligados a Estados, mostram que a maioria dos invasores economiza recursos e usa modelos antigos e menos poderosos. E os agentes mais ricos e motivados provavelmente ja tinham acesso a modelos fechados. Para eles, a noticia nao muda nada.

Alex Zenla, CTO da Edera, destaca duas nuances. Primeiro, existem modelos abliterated cujo treinamento de seguranca foi desativado por meio de alteracoes nos pesos, tornando-os adequados para ataques. Segundo, laboratorios fechados provavelmente ja treinaram modelos internos mais poderosos. Ele descreve a situacao como um jogo de gato e rato: os laboratorios tentam encontrar vulnerabilidades antes que os modelos abertos as encontrem.

Limitacoes

Vale lembrar que o teste foi realizado em redes simuladas, e nao em uma infraestrutura real com monitoramento e funcionarios. O resultado se baseia na media de duas execucoes, e a amostra e pequena. Ate o momento da publicacao, a OpenAI nao havia comentado os dados. Especialistas tambem divergem sobre se a IA cria uma classe de ameaca fundamentalmente nova ou apenas amplia as ameacas antigas.

O que fazer

Desenvolvedores e equipes de seguranca devem tomar algumas medidas:

• Partir do principio de que a busca automatizada por vulnerabilidades e barata e esta disponivel para qualquer pessoa.
• Acelerar a instalacao de patches e reduzir o tempo de resposta: o ritmo das descobertas aumentara.
• Testar modelos abertos em seus proprios testes internos de penetracao antes que eles sejam usados contra voce.
• Nao depender de filtros de seguranca como unica barreira, pois eles podem ser removidos.

A corrida nao e entre modelos fechados e abertos, mas entre quem encontrara primeiro a falha em seu codigo: voce ou outra pessoa.