Google processa grupo chinês que usou o Gemini para aplicar golpes de phishing

O Google entrou com uma ação judicial contra o grupo cibercriminoso chinês Outsider Enterprise. O grupo usava IA, incluindo o próprio Gemini, para criar sites de phishing e disparar SMS fraudulentos em massa para usuários de Android.

O que o grupo fez

A Outsider Enterprise montou uma verdadeira fábrica de golpes digitais baseada em IA generativa. O grupo usava o Google Gemini para gerar automaticamente páginas de phishing: cópias exatas de sites oficiais do Google e de outras marcas conhecidas. Com a IA, a velocidade de criação desses sites aumentou várias vezes. O que antes levava dias agora leva minutos.

Em paralelo, a operação incluía uma campanha agressiva de SMS spoofing. Em duas semanas, os golpistas enviaram 2,5 milhões de mensagens de texto falsas para usuários de Android. Cada uma parecia uma notificação oficial do Google ou de outra grande empresa. O objetivo era o de sempre: levar o usuário a clicar em um link, digitar suas credenciais ou baixar um aplicativo malicioso.

O que torna o caso especialmente revelador é que o grupo usou justamente o Gemini, uma ferramenta da própria empresa que agora o processa. Isso mostra com clareza como ferramentas de IA de acesso público podem ser facilmente transformadas em armas contra as organizações que as desenvolveram.

A estratégia judicial do Google

A empresa entrou com a ação na sexta-feira e pede o desmonte completo da infraestrutura da Outsider Enterprise. Os pedidos incluem:

• transferência para o controle do Google de todos os domínios usados no phishing
• desativação dos servidores e contas usados pelo grupo
• proibição de que seus integrantes continuem usando produtos e plataformas do Google
• indenização em favor da empresa e dos usuários prejudicados
• responsabilização pública de pessoas específicas

As ações judiciais fazem parte de uma estratégia consistente do Google no combate a fraudes em larga escala. A persecução criminal em casos internacionais é lenta e imprevisível, enquanto uma ação cível permite obter mais rapidamente a apreensão de domínios e o congelamento da infraestrutura. Além disso, cada vitória cria um precedente que dificulta a vida dos próximos grupos, ao menos nas jurisdições em que o Google consegue, de fato, cobrar os prejuízos.

Por que a IA é tão útil para golpistas

O uso do Gemini para phishing é um exemplo claro de um desafio sistêmico enfrentado por todas as grandes empresas de IA. Modelos generativos conseguem criar textos convincentes, logotipos, estrutura e navegação de sites, exatamente o necessário para imitar uma marca de forma verossímil.

Antes, um site de phishing de qualidade exigia sólidas habilidades técnicas ou a contratação de especialistas. Hoje, basta alguns prompts. A barreira de entrada para golpistas caiu drasticamente, e a credibilidade dos ataques aumentou.

O Google e outros desenvolvedores de IA vêm impondo restrições cada vez mais rígidas a cenários perigosos. Mas os grupos criminosos se adaptam rápido: usam várias ferramentas ao mesmo tempo, recorrem à IA apenas em etapas específicas do ataque ou buscam modelos sem moderação rigorosa.

O que isso significa

As ações judiciais são uma resposta importante, mas insuficiente. Enquanto um grupo é desmantelado, outros ajustam seus esquemas e seguem operando. Um avanço real exige das empresas de IA não só reagir a incidentes, mas também ter mecanismos embutidos de detecção de abusos, antes que o estrago chegue a milhões de vítimas.