Google processa grupo criminoso chinês que usou Gemini para phishing

Google ajuizou uma ação judicial contra um grupo de cibercriminosos chineses Outsider Enterprise — que usava IA, incluindo o próprio Gemini, para criar sites de phishing e distribuir massivamente mensagens SMS fraudulentas para usuários do Android.

O que o grupo fez

A Outsider Enterprise construiu uma verdadeira fábrica de fraude digital baseada em IA generativa. O grupo usava Google Gemini para gerar automaticamente páginas da web de phishing — cópias exatas de recursos oficiais do Google e outras marcas conhecidas. Graças à IA, a velocidade de criação desses sites aumentou dramaticamente: o que antes levava dias agora leva minutos.

Em paralelo, a operação incluía uma agressiva campanha de spoofing de SMS. Em duas semanas, os fraudadores distribuíram 2,5 milhões de mensagens de texto falsas para usuários do Android — cada uma aparentando ser uma notificação oficial do Google ou de outra grande empresa. O objetivo é padrão: forçar um usuário a clicar em um link, inserir credenciais ou baixar software malicioso.

O que torna essa história particularmente reveladora é que o grupo usava o próprio Gemini — uma ferramenta da mesma empresa que agora o processa. Isso demonstra claramente como ferramentas de IA publicamente disponíveis são facilmente transformadas em armas contra as organizações que as desenvolveram.

Estratégia legal do Google

A empresa ajuizou a ação na sexta-feira, buscando desmantelamento completo da infraestrutura da Outsider Enterprise. As exigências incluem:

• transferência para o controle do Google de todos os domínios envolvidos no phishing
• desligamento de servidores e contas usadas pelo grupo
• proibição de uso adicional de produtos e plataformas Google pelos seus membros
• indenização em favor da empresa e dos usuários afetados
• estabelecimento público de responsabilidade para indivíduos específicos

Ações judiciais fazem parte da estratégia consistente do Google no combate ao fraude em larga escala. O processo penal em casos internacionais é lento e imprevisível, enquanto uma ação civil permite apreensão de domínios e congelamento de infraestrutura mais rápido. Além disso, cada caso bem-sucedido estabelece um precedente que complica operações para grupos subsequentes — pelo menos nas jurisdições onde o Google pode realmente recuperar indenizações.

Por que IA é conveniente para fraudadores

O uso de Gemini para phishing é um exemplo revelador do desafio sistêmico que todas as grandes empresas de IA enfrentam. Modelos generativos conseguem criar texto convincente, logotipos, estrutura de site e navegação — exatamente o necessário para imitação plausível de marca. Anteriormente, um site de phishing de qualidade exigia ou habilidades técnicas sérias ou contratação de especialistas. Hoje é uma questão de alguns prompts. A barreira de entrada para fraudadores diminuiu drasticamente, enquanto a credibilidade dos ataques aumentou.

O Google e outros desenvolvedores de IA estão implementando restrições cada vez mais rigorosas em cenários perigosos. Mas grupos criminosos se adaptam rapidamente: usam múltiplas ferramentas simultaneamente, aplicam IA apenas em estágios específicos de um ataque ou procuram modelos com moderação menos rigorosa.

O que isso significa

Ações judiciais são uma resposta importante mas insuficiente. Enquanto um grupo é desmantelado, outros modificam seus esquemas e continuam operando. O progresso real exige das empresas de IA não apenas reagir a incidentes, mas ter mecanismos incorporados de detecção de abuso — antes que a escala de danos atinja milhões de usuários afetados.