Google DeepMind et Singapour lancent une Gemma anti-arnaques : S$4 milliards de pertes

En Singapour, les arnaques représentent plus de la moitié de tous les crimes enregistrés, et les pertes cumulées depuis 2019 dépassent S$4 milliards. Google DeepMind et la Government Technology Agency of Singapore (GovTech) ont présenté au Singapore International Cyber Week 2026 leur réponse : un modèle de détection des conversations frauduleuses qui fonctionne entièrement sur smartphone. Il repose sur une version allégée de Gemma, affinée sur des scénarios d'escroquerie locaux. Le projet est issu du partenariat national entre DeepMind et le gouvernement singapourien.

Pourquoi les filtres côté serveur atteignent leurs limites

Les méthodes des fraudeurs ont changé. Le simple phishing a cédé la place à l'ingénierie sociale : la victime est longuement travaillée par une correspondance convaincante, et ce n'est qu'ensuite qu'on lui demande de l'argent. Selon les auteurs du projet, ces scénarios concentrent jusqu'à 80% de toutes les pertes. Les repérer à partir d'un lien ou d'un gabarit de message est difficile, car la conversation peut ne contenir aucun lien malveillant.

Deuxième problème : le chiffrement. La protection classique analyse les messages sur le serveur, mais de nombreuses messageries utilisent le chiffrement de bout en bout, et la plateforme ne voit tout simplement pas le contenu des échanges. Troisième problème : le contexte local. Les modèles généralistes reconnaissent moins bien les usurpations d'organismes publics singapouriens, de banques et de personnalités locales connues, ainsi que les schémas régionaux, qui apparaissent et disparaissent vite.

La solution de l'équipe : déplacer l'analyse sur l'appareil. La conversation reste chez l'utilisateur, et l'alerte s'affiche avant que la personne n'envoie de l'argent ou ses identifiants de connexion.

Comment fonctionne le pipeline en deux étages

Faire tourner un classifieur complexe sur un téléphone ordinaire, c'est se battre pour l'autonomie de la batterie. Le système est donc divisé en deux étapes. D'abord, un classifieur léger à très faible consommation examine les messages entrants ; son rôle est de repérer une menace potentielle. Si un doute apparaît, le second étage entre en jeu : la Gemma affinée évalue un fragment plus large de la conversation, puis confirme la menace ou lève l'alerte. Ce schéma sert aussi à limiter les faux positifs : une conversation ordinaire où l'on demande de prêter de l'argent ne doit pas être traitée comme une attaque.

Lorsque la menace est confirmée, le modèle affiche un avertissement directement à l'écran, avec le conseil de s'arrêter et de ne pas partager d'informations sensibles ni de fonds. Pour l'entraînement, l'équipe a utilisé des dialogues réalistes dans leur structure : imitations d'administrations, de banques, de personnalités publiques locales et de schémas régionaux d'actualité.

Principaux paramètres du projet :

• Base : Gemma, modèle allégé de Google DeepMind, affiné sur des scénarios d'arnaque locaux.
• Où il tourne : sur smartphone ; l'analyse des conversations ne nécessite aucun envoi de données vers le cloud.
• Étage 1 : classifieur léger des messages entrants, à faible consommation d'énergie.
• Étage 2 : évaluation contextuelle d'un fragment de conversation plus large par la Gemma affinée.
• Environnement d'entraînement : environnement géré de GovTech sur GCP, avec des données isolées.
• Données : jeux de données anonymisés issus de plaintes pour fraude et de flux de renseignement, sans données personnelles de citoyens.
• Validation : dialogues synthétiques et corpus locaux couvrant différentes catégories de schémas et d'usurpations.
• Non divulgué : taille du modèle, précision, taux de faux positifs, liste des appareils pris en charge.

Gouvernance des données et limites

Les auteurs insistent sur la rigueur du développement. L'affinage s'est déroulé dans un « bac à sable souverain », un environnement de GovTech que l'agence administre elle-même. Toute information privée ou permettant d'identifier une personne a été exclue de l'échantillon d'entraînement. La robustesse face aux nouvelles méthodes a été testée avec des dialogues synthétiques imitant l'évolution des tactiques d'usurpation d'identité.

Mark Chen, directeur de la confiance et de la sécurité chez GovTech, résume l'objectif ainsi : détecter en temps réel les tentatives d'escroquerie locales et ciblées, sans porter atteinte à la confidentialité des conversations.

À qui cela servira, et ce qui manque

Le projet est conçu comme un modèle pour les messageries et les éditeurs de systèmes d'exploitation : ils peuvent intégrer de tels modèles allégés et protéger les utilisateurs en local, sans casser le chiffrement de bout en bout. Pour les banques et les régulateurs d'autres pays, c'est un gabarit exploitable : un modèle national entraîné sur des données locales, plus une analyse côté client.

Mais la publication laisse des questions sans réponse, et sans elles, impossible d'évaluer l'efficacité réelle. Il n'y a aucun chiffre sur la précision ni sur le rappel de la détection, aucune donnée sur les faux positifs dans des conversations réelles, ni sur la charge pour la batterie en heures. On ignore comment l'outil sera intégré dans des applications concrètes et qui mettra à jour le modèle lorsque les schémas des fraudeurs changeront. Pour l'instant, il s'agit d'une démonstration d'approche, et non d'un produit prêt pour un déploiement de masse. Reste à surveiller quelle plateforme intégrera le modèle en premier et publiera des mesures indépendantes.