Google poursuit un groupe criminel chinois qui a utilisé Gemini pour du phishing

Google a déposé une action en justice contre un groupe de cybercriminels chinois Outsider Enterprise — qui utilisait l'IA, y compris Gemini lui-même, pour créer des sites de phishing et envoyer massivement de faux messages SMS aux utilisateurs d'Android.

Ce que le groupe a fait

Outsider Enterprise a construit une véritable usine de fraude numérique basée sur l'IA générative. Le groupe utilisait Google Gemini pour générer automatiquement des pages web de phishing — des copies exactes des ressources officielles de Google et d'autres marques bien connues. Grâce à l'IA, la vitesse de création de tels sites a augmenté de façon spectaculaire : ce qui prenait auparavant des jours prend maintenant quelques minutes.

En parallèle, l'opération incluait une campagne agressive d'usurpation d'SMS. En deux semaines, les escrocs ont distribué 2,5 millions de faux messages texte aux utilisateurs d'Android — chacun semblant être une notification officielle de Google ou d'une autre grande entreprise. L'objectif est standard : forcer un utilisateur à cliquer sur un lien, saisir des identifiants ou télécharger un logiciel malveillant.

Ce qui rend cette histoire particulièrement révélatrice, c'est que le groupe utilisait Gemini lui-même — un outil de la propre entreprise qui les poursuit maintenant. Cela démontre clairement à quel point les outils d'IA publiquement disponibles sont facilement transformés en armes contre les organisations qui les ont développés.

Stratégie juridique de Google

La société a engagé l'action en justice vendredi, cherchant le démantèlement complet de l'infrastructure d'Outsider Enterprise. Les demandes incluent :

• le transfert sous contrôle de Google de tous les domaines impliqués dans le phishing
• l'arrêt des serveurs et des comptes utilisés par le groupe
• l'interdiction d'utiliser davantage les produits et plateformes de Google par ses membres
• la récupération des dommages en faveur de l'entreprise et des utilisateurs affectés
• l'établissement public de la responsabilité d'individus spécifiques

Les actions en justice font partie de la stratégie cohérente de Google dans la lutte contre la fraude à grande échelle. Les poursuites pénales dans les affaires internationales sont lentes et imprévisibles, tandis qu'une action civile permet une saisie de domaines et un gel de l'infrastructure plus rapides. De plus, chaque cas réussi crée un précédent qui complique les opérations des groupes ultérieurs — au moins dans les juridictions où Google peut réellement récupérer des dommages.

Pourquoi l'IA est pratique pour les arnaqueurs

L'utilisation de Gemini pour le phishing est un exemple révélateur du défi systémique auquel font face toutes les grandes entreprises d'IA. Les modèles génératifs peuvent créer du texte convaincant, des logos, une structure de site et une navigation — exactement ce qui est nécessaire pour une imitation plausible de marque. Auparavant, un site de phishing de qualité nécessitait soit des compétences techniques sérieuses, soit l'embauche de spécialistes. Aujourd'hui, c'est une question de quelques prompts. La barrière à l'entrée pour les arnaqueurs a baissé considérablement, tandis que la crédibilité des attaques a augmenté.

Google et d'autres développeurs d'IA mettent en place des restrictions de plus en plus strictes sur les scénarios dangereux. Mais les groupes criminels s'adaptent rapidement : ils utilisent plusieurs outils simultanément, appliquent l'IA uniquement à certaines étapes d'une attaque ou cherchent des modèles sans modération stricte.

Ce que cela signifie

Les actions en justice sont une réponse importante mais insuffisante. Tandis qu'un groupe est démantelé, d'autres modifient leurs schémas et continuent à opérer. Un vrai progrès exige que les entreprises d'IA ne réagissent pas seulement aux incidents, mais disposent de mécanismes intégrés de détection des abus — avant que l'ampleur des dégâts n'atteigne des millions d'utilisateurs affectés.