Des projets antifraude apprennent à des bots IA à jouer les victimes pour épuiser les escrocs

Depuis des années, les escrocs appellent en suivant des scripts, en comptant sur une personne bien réelle et désemparée à l'autre bout du fil. Désormais, c'est de plus en plus souvent un réseau de neurones qui décroche. Des initiatives antifraude mettent en place des bots IA à la voix et au style d'élocution réalistes, pour que les criminels les prennent pour de véritables victimes. L'un des premiers exemples les plus connus est Daisy, de Virgin Media O2 : une « mamie » qui, selon l'opérateur, garde l'appelant en ligne jusqu'à 40 minutes. Chacune de ces minutes est perdue pour l'escroc et se transforme en données pour les défenseurs.

Comment fonctionne le piège

Un leurre de ce type repose généralement sur trois briques : la reconnaissance vocale, un modèle de langage et la synthèse vocale. Le modèle reçoit un rôle, par exemple celui d'une personne âgée, bavarde et un peu distraite. Il ne refuse pas d'emblée et n'accepte pas non plus d'emblée. Le bot fait répéter, mélange les chiffres, part dans des histoires de petits-enfants et de chat, « cherche sa carte » et « ne retrouve pas ses lunettes ». L'objectif n'est pas de gagner la discussion, mais de faire durer l'échange le plus longtemps possible, de façon convaincante.

Son principal avantage sur un bénévole humain : le bot ne se fatigue pas et ne s'énerve pas. Il ne se trahit pas non plus par des émotions, difficiles à dissimuler à la cinquantième minute d'un dialogue absurde. Un humain en est incapable.

Qui s'y met déjà

L'idée n'est pas nouvelle, mais les modèles de langage l'ont rendue peu coûteuse et capable de passer à l'échelle. Voici les projets connus par des sources ouvertes. Les chiffres précis de chacun sont à vérifier auprès des sources primaires.

• Daisy (Virgin Media O2, Royaume-Uni) : une « mamie » IA vocale qui, selon l'opérateur, retient les escrocs jusqu'à 40 minutes.
• Apate (Macquarie University, Australie) : un projet de recherche avec des personnages IA qui répondent aux appels et aux messages des escrocs.
• Re:scam (Netsafe, Nouvelle-Zélande) : l'utilisateur transfère un e-mail suspect, et le bot échange avec l'expéditeur en se faisant passer pour la « victime ».
• Jolly Roger Telephone Company (États-Unis) : un service payant avec des bots dédiés aux démarcheurs téléphoniques et aux appels frauduleux.

Tous reposent sur la même métrique : la durée du contact. Plus elle est longue, plus l'attaque coûte cher. La seconde métrique est la qualité des données collectées : numéros, noms de « banques », scénarios, coordonnées pour les virements.

Économie et limites

Un centre d'appels frauduleux repose sur une ressource coûteuse : le temps de ses opérateurs. Un bot qui mène des centaines de conversations en parallèle pour le prix de la puissance de calcul bouleverse cette économie. L'escroc ne peut pas comprendre rapidement qu'il perd son temps, tant que son propre filtre ne s'est pas déclenché.

L'approche a ses points faibles. Premièrement, les criminels utilisent eux-mêmes l'IA générative : dans certains cas, un bot parle donc à un bot, et l'intérêt de faire traîner la conversation diminue. Deuxièmement, l'opérateur à l'autre bout n'est pas forcément un criminel volontaire : dans les schémas d'Asie du Sud-Est, travaillent souvent des personnes emmenées de force. Épuiser de tels « employés » est éthiquement plus délicat que de frapper les organisateurs. Troisièmement, des questions juridiques demeurent : enregistrement des conversations, conservation des voix et des données, faux positifs touchant de vraies personnes.

Que faire concrètement

Pour l'utilisateur ordinaire, ces pièges ne remplacent pas l'hygiène numérique de base. Si l'on vous appelle « de la banque » ou « de la police », raccrochez et rappelez au numéro officiel. Il est conseillé de transférer les e-mails et messages suspects aux services spécialisés de votre pays, s'ils existent : certains alimentent précisément ce type de systèmes.

Les opérateurs télécoms et les banques gagneraient à considérer les leurres comme une source de renseignement sur les menaces. Les numéros, scénarios et portefeuilles collectés par les bots peuvent être rapidement transmis aux systèmes de blocage et aux règles antifraude. Les équipes de sécurité ont intérêt à définir les règles en amont : ce que le bot a le droit de dire, quelles données conserver et quand transmettre les éléments aux forces de l'ordre. Sans cela, le piège deviendra vite un problème juridique pour son propriétaire.