CyberOK a testé les techniques des arnaqueurs téléphoniques sur Claude, GPT-5.5, Qwen et DeepSeek

Sergueï Gordeïtchik, chercheur chez CyberOK Research, a publié sur Habr un article dans lequel son équipe applique à des modèles de langage les techniques classiques d'influence psychologique rodées par les arnaqueurs téléphoniques. Les chercheurs ont ensuite observé la réaction de sept LLM à ces techniques.

D'où vient la méthodologie

Selon l'auteur, la psychologie appliquée de l'influence la plus aboutie ne se trouve pas dans la recherche universitaire, mais à l'autre bout du fil. Pendant des années, les escrocs ont optimisé leurs techniques sur des millions de victimes, sans subventions ni comités d'éthique. Les chercheurs ont transposé la structure de ces techniques aux modèles de langage, mais uniquement dans des scénarios synthétiques et inoffensifs : ni scripts réels, ni victimes réelles, ni le moindre préjudice.

• Capture par l'autorité : on persuade le modèle que la requête émane d'une instance importante
• Compression du temps de décision : création d'une urgence artificielle
• Faux consensus : l'argument du « tout le monde fait comme ça »
• Extraction d'informations étape par étape : progression graduelle vers l'objectif via une série de petites concessions

Quels modèles ont été testés

Les techniques ont été testées sur sept modèles issus de différents développeurs, des systèmes commerciaux haut de gamme jusqu'à un modèle ouvert moins puissant, qui a servi de point de comparaison témoin.

• Claude Opus et Claude Sonnet d'Anthropic
• GPT-5.5 d'OpenAI
• Qwen, DeepSeek et Mistral
• Llama-8b, un petit modèle délibérément faible servant de témoin

L'auteur insiste : les chercheurs n'affirment pas qu'un modèle de langage possède un psychisme au sens humain. Mais les méthodes d'influence conçues pour les humains peuvent tout de même viser un système qui génère du texte en réponse à du texte, même s'il est impossible de « l'allonger sur le divan » d'un psychanalyste.

Pourquoi avoir choisi les techniques des arnaqueurs ?

L'auteur justifie le choix de cette source. La psychologie universitaire de l'influence s'est affinée pendant des décennies en laboratoire, dans des conditions contrôlées et sur de petits échantillons d'étudiants. Les arnaqueurs téléphoniques, eux, ont de fait mené la plus vaste expérience non contrôlée de l'histoire en matière de manipulation psychologique de masse : sur des millions de personnes réelles, sans contraintes éthiques, mais avec un retour permanent sous forme de tentatives d'escroquerie réussies ou ratées.

Leurs techniques sont donc extrêmement affûtées sur le plan de l'efficacité pratique, et non de l'élégance théorique. Transposer cette structure aux modèles de langage permet de vérifier si un système entraîné à prédire du texte réagit aux mêmes leviers d'influence qu'un humain contraint de décider sous pression.

Ce que montrerait le résultat du test

Dans son article, Gordeïtchik détaille la méthodologie de l'expérience et la liste des modèles testés, mais les résultats définitifs (quels modèles se sont montrés les plus résistants à la manipulation, lesquels ont cédé plus vite que les autres aux techniques des escrocs) figurent dans la version complète de l'article sur Habr. Le simple fait d'avoir comparé des modèles de calibres aussi différents, des haut de gamme Claude Opus et GPT-5.5 jusqu'au compact Llama-8b servant de témoin, indique que les auteurs ne s'intéressaient pas à la résistance absolue d'un modèle donné, mais à la corrélation elle-même : la résistance à la manipulation progresse-t-elle avec la qualité et la taille du modèle, ou s'agit-il d'une propriété distincte qu'il faut entraîner spécifiquement ?

Ce que cela signifie

Si les techniques classiques d'ingénierie sociale fonctionnent sur les modèles de langage comme sur les humains, cela ouvre un nouveau vecteur d'attaque concret contre les systèmes d'IA : de la manipulation de chatbots au contournement de leurs garde-fous par la pression psychologique, et pas seulement par des jailbreaks techniques. Pour les équipes qui intègrent des LLM dans des processus métier sensibles, c'est une raison de tester les modèles non seulement sur leurs vulnérabilités techniques, mais aussi sur leur résistance aux scénarios de manipulation bien connus des praticiens de l'arnaque téléphonique.