Une autrice de Habr crée un faux profil sur teamo pour tester les bots arnaqueurs

L'autrice d'un article publié sur Habr a mené une expérience simple. Elle a créé sur l'application de rencontres teamo le profil d'une personne « aussi aisée et séduisante que possible », puis a regardé qui lui écrivait en premier, et selon quel scénario. Son point de départ : ce ne sont ni les startups ni les grands groupes qui profitent le plus des réseaux de neurones, mais les organisations d'escrocs. L'autrice dit explicitement qu'elle le soupçonne, mais qu'elle ne peut pas le prouver. Nous n'avons accès qu'à l'annonce, le texte complet étant replié sous un cut. Nous examinons donc ci-dessous ce qui est affirmé, ainsi que le contexte.

Comment l'expérience est construite

Le profil sert d'appât. Un haut niveau de revenus et une apparence flatteuse visent à attirer ceux qui suivent des scénarios préparés à l'avance. Ces schémas ciblent aussi bien les hommes que les femmes : n'importe quel utilisateur peut donc en être victime.

La plateforme a été choisie à partir d'observations : les proches et les collègues de l'autrice recevaient le plus souvent des propositions suspectes précisément depuis teamo. Il s'agit d'un échantillon tiré de son cercle personnel, pas de statistiques de la plateforme. L'autrice précise par ailleurs qu'elle a eu l'impression que le service transmettait les données de ses utilisateurs à des parties intéressées. Elle juge cette hypothèse peu probable et « veut croire » que ce n'est pas le cas. L'autre possibilité est une faille par laquelle les données fuiraient. D'après elle, des professionnels n'auraient aucun mal à trouver une telle brèche. Ces deux versions restent pour l'instant des suppositions.

Paramètres de l'expérience, d'après l'annonce :

• Plateforme : l'application de rencontres teamo.
• Outil : un profil créé pour l'occasion, présentant une personne aisée et séduisante.
• Objet d'observation : les bots et les scénarios des escrocs, y compris ceux qui reposent sur des réseaux de neurones.
• Hypothèse principale : c'est chez les escrocs que l'adoption de l'IA offre le meilleur retour économique (non prouvé).
• Hypothèse secondaire : une fuite ou une transmission des données des utilisateurs (l'autrice la juge peu probable).

Pourquoi les réseaux de neurones rendent ces arnaques massives

Ce qui suit relève de notre commentaire, pas des données de l'article. L'arnaque sentimentale s'est toujours heurtée à une limite : le temps humain. Un opérateur doit mener des dizaines de conversations, tenir une légende et passer au bon moment à la demande d'argent. Un modèle de langage supprime cette contrainte : il répond sans pause, s'adapte au style de son interlocuteur et ne s'emmêle pas dans sa « biographie ». Le coût d'une conversation baisse, le nombre de conversations augmente, et le taux de conversion progresse avec lui.

L'ampleur du problème était déjà visible sans l'IA. Selon la FTC américaine, en 2022, les victimes d'arnaques sentimentales ont perdu environ 1,3 milliard de dollars. Si l'automatisation préserve l'efficacité, même en partie, tout en réduisant les coûts, l'économie de ces schémas devient encore plus attractive. La thèse de l'autrice paraît donc plausible, même si elle reste une hypothèse faute de chiffres propres.

L'annonce ne répond pas encore à plusieurs questions :

• comment l'autrice a déterminé que son interlocuteur était un bot ;
• à quelle étape de la conversation apparaît la demande d'argent ou le passage vers une messagerie externe ;
• quels scénarios se sont répétés ;
• s'il existe des signes techniques de fuite.

La valeur du texte complet en dépend : une bonne analyse doit montrer des conversations précises et des régularités, pas seulement une impression générale.

Comment éviter le piège

En pratique, plusieurs signes aident à repérer un bot.

• Une réponse trop rapide à toute heure du jour et de la nuit, avec un style parfaitement uniforme.
• L'esquive des questions précises : la réponse est fluide, mais n'apporte aucune information.
• Une proposition rapide de passer sur une autre messagerie ou sur une plateforme externe.
• Toute mention d'« investissements avantageux », de services ou de placements.
• Une demande d'argent, d'avance ou de données de carte, à n'importe quel stade.

On peut vérifier un interlocuteur par une recherche d'image inversée sur ses photos et par un court appel vidéo. La vidéo ne garantit plus l'authenticité à cause des deepfakes, mais l'appel reste un obstacle pour une arnaque de masse. Si l'application demande des autorisations excessives, ou si du spam et des courriels suspects arrivent soudainement après l'inscription, il y a lieu de se demander où fuient les données. Pour le service lui-même, c'est un signal qu'il doit renforcer la modération et l'antifraude. Pour les équipes de sécurité, c'est une raison de suivre les signaux comportementaux des bots, et pas seulement le texte des messages.