L'IA a discuté 2,5 millions de fois avec des escrocs et récolté 250 000 pistes

Les appels frauduleux sont si nombreux en Chine que même les utilisateurs d'iPhone activent le filtrage système des numéros inconnus, quitte à voir parfois des livreurs écartés avec le spam. Le projet décrit par Jiqizhixin aborde le problème par l'autre bout : c'est une IA qui décroche. D'après le média, le système a mené environ 2,5 millions de conversations et en a extrait 250 000 éléments de renseignement sur les schémas d'arnaque. Cela fait une piste pour dix conversations.

Pourquoi le blocage perd la partie

L'asymétrie est évidente. Changer de numéro ne coûte presque rien à l'escroc : un numéro est bloqué, il rappelle le lendemain depuis un autre. L'utilisateur, lui, doit réagir à la main à chaque fois, ou compter sur un filtre qui se trompe dans les deux sens. L'auteur de l'article décrit précisément cette expérience : le numéro est bloqué, et une minute plus tard, un appel arrive depuis un nouveau.

Le projet change la logique elle-même. L'appel n'est plus rejeté : il devient une conversation dont on peut tirer quelque chose. Tant que l'escroc perd du temps avec l'IA, il ne s'occupe pas d'une vraie personne. Le sous-produit de ce temps perdu, ce sont précisément ces 250 000 éléments d'information.

Ce que l'on sait, et ce que l'on ignore

Le fragment accessible de la publication ne contient aucun détail technique. On ignore sur quel modèle repose l'interlocuteur artificiel, comment fonctionne la couche vocale et qui exploite le système. L'article ne précise pas non plus ce que recouvre exactement le terme « renseignement ». Il pourrait s'agir de numéros, de scénarios de conversation, de noms de plateformes, de coordonnées bancaires ou de liens, mais sans le texte complet, ce n'est qu'une supposition.

Voici ce que les données publiques permettent de retenir :

• environ 2,5 millions de conversations avec des escrocs ;
• environ 250 000 éléments d'information collectés sur la fraude ;
• rendement moyen : environ 0,1 élément par conversation ;
• format : l'IA prend les appels entrants et entretient la conversation, au lieu de raccrocher.

Comment lire ces chiffres

Dix pour cent paraît modeste, mais en matière de renseignement, c'est beaucoup. Chaque conversation ne coûte aucune heure de travail humain, et l'échelle permet de repérer des régularités invisibles pour une victime isolée : quels scénarios circulent en ce moment, depuis quelles lignes partent les campagnes d'appels, comment évoluent les histoires de couverture.

Ce chiffre a toutefois des points faibles. L'« élément d'information » n'est pas défini, et parmi les 250 000, il y a très probablement des doublons. On ignore comment les données sont vérifiées, et si elles sont transmises aux opérateurs télécoms, aux banques ou aux forces de l'ordre. La question du statut juridique de l'enregistrement des conversations reste aussi ouverte. Enfin, les escrocs s'adaptent. S'ils apprennent à repérer rapidement le bot, par exemple à ses pauses ou à ses réponses atypiques, le rendement chutera et il faudra rendre l'interlocuteur plus convaincant.

Que faire de tout cela

Pour les utilisateurs, la conclusion pratique est simple : il ne faut toujours pas répondre aux numéros inconnus, et les filtres comme les signalements de numéros restent la protection de base. Si les pièges conversationnels se généralisent, ils fourniront aux banques et aux opérateurs les données nécessaires pour bloquer les schémas avant qu'ils n'atteignent les gens.

Les équipes qui développent des outils antifraude devraient reprendre l'approche elle-même et y mesurer trois choses : combien de temps l'IA retient l'escroc en ligne, quelle part des données collectées est unique, et dans quelle mesure elles sont confirmées par des sources indépendantes. Ces métriques diront si le système fonctionne comme un outil de renseignement ou s'il génère simplement un gros volume de bruit.

Pour l'instant, seuls deux chiffres et l'idée elle-même sont publics. Si les auteurs dévoilent leur méthodologie, on saura si cette approche peut passer à l'échelle en dehors de la Chine.