Live 18/11 · Cohorte 318 nov à 19h00 MSK — atelier pratique gratuit sur les agents IA · La Cohorte 3 démarre le 23/11Atelier 18/11 →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarWired→ original

Des sous-traitants de Meta se sont fait passer pour des enfants afin de tester ChatGPT et Gemini sur des sujets dangereux

Des centaines de sous-traitants de Meta se sont fait passer pour des enfants dans leurs échanges avec Gemini et ChatGPT, et ont délibérément poussé les chatbots concurrents à aborder le suicide, le sexe et les drogues. Le tout s'inscrit dans un projet interne secret. Fait notable : les modèles de Meta n'ont pas participé aux tests, seuls ceux des concurrents ont été visés. L'affaire soulève une question épineuse : où passe la frontière entre test de sécurité légitime et espionnage concurrentiel déguisé ? *Meta est reconnue organisation extrémiste et interdite en Russie.

Traité par IA depuis Wired ; édité par Hamidun News
Des sous-traitants de Meta se sont fait passer pour des enfants afin de tester ChatGPT et Gemini sur des sujets dangereux
Source : Wired. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireWired ↗
Rédacteur en chef
La cibledes concurrents, pas son propre produit. Meta n'améliorait pas sa propre sécurité : elle documentait les faiblesses des autres.
La méthodel'imitation systématique d'enfants. Créer de faux profils de mineurs pour manipuler des systèmes d'IA dépasse les normes éthiques reconnues.
Chiffre clé #3L'opacité. Un test responsable suppose au moins des protocoles éthiques minimaux. Ici, il n'y en avait aucun.

Des centaines de sous-traitants de Meta se sont fait passer pour des adolescents afin de pousser Gemini, ChatGPT et d'autres chatbots concurrents à discuter de suicide, de sexe et de drogues. Une enquête de Wired dévoile les détails d'un projet fermé qui soulève de sérieuses questions sur l'éthique de l'espionnage concurrentiel à l'ère de l'IA.

Le dispositif et son ampleur

Dans le cadre d'un projet interne de Meta, des centaines de sous-traitants avaient pour consigne de se faire passer pour des utilisateurs mineurs et de dialoguer avec des systèmes rivaux : Google Gemini, ChatGPT et plusieurs autres chatbots. L'objectif : consigner avec quelle facilité on peut amener ces systèmes sur des sujets dangereux, comme le suicide, les violences sexuelles et les drogues.

Le travail s'est déroulé sur plusieurs mois, via des outils spécialisés. Les sous-traitants n'ont révélé leur affiliation ni aux systèmes ni à leurs développeurs : ils apparaissaient comme des utilisateurs ordinaires intéressés par des sujets sensibles. Selon Wired, le dispositif mobilisait des centaines de personnes, qui généraient des milliers de sessions de test par jour. Fait notable, seuls les concurrents étaient visés : les modèles propres de Meta (Llama, Meta AI) ne faisaient pas partie des tests.

Où est le problème ?

Les entreprises pratiquent régulièrement le red-teaming : des équipes spécialement formées tentent de pirater ou de tromper un système pour y trouver des failles avant les acteurs malveillants. C'est une approche reconnue, approuvée par les régulateurs, pour renforcer la sécurité des produits d'IA. Mais le projet de Meta diffère radicalement du red-teaming classique :

  • La cible : des concurrents, pas son propre produit. Meta n'améliorait pas sa propre sécurité : elle documentait les faiblesses des autres.
  • La méthode : l'imitation systématique d'enfants. Créer de faux profils de mineurs pour manipuler des systèmes d'IA dépasse les normes éthiques reconnues.
  • L'opacité. Un test responsable suppose au moins des protocoles éthiques minimaux. Ici, il n'y en avait aucun.
  • Un double usage potentiel. Meta a critiqué publiquement à plusieurs reprises ses concurrents pour une protection insuffisante des enfants. Si cette critique s'appuie sur des données obtenues par des provocations dissimulées, il s'agit de manipulation, pas d'un souci réel de sécurité.

Réaction du marché et des régulateurs

Ni Google ni OpenAI n'ont commenté publiquement les incidents précis de l'enquête de Wired. Les représentants de Meta n'ont pas non plus confirmé ni démenti les détails au moment de la publication. Les sources du média sont des sous-traitants actuels et anciens qui ont travaillé directement sur le projet.

« Tester la sécurité est normal et nécessaire.

Se faire passer systématiquement pour un enfant afin de discréditer le produit d'autrui, c'est tout autre chose », estiment des experts en éthique de l'IA interrogés par Wired.

En Europe, ce type d'activité pourrait relever du DSA (Digital Services Act), qui encadre le traitement des mineurs par les plateformes et fixe des exigences de transparence. Les législateurs américains ne disposent pas encore d'outils comparables, même si la sécurité des enfants en ligne est débattue au Congrès depuis des années, notamment dans le cadre du KOSA (Kids Online Safety Act).

Un point essentiel : les chatbots eux-mêmes, Gemini et ChatGPT, ont bel et bien montré des vulnérabilités, en répondant aux requêtes des « adolescents » par des contenus sur le suicide et les drogues. Le problème est réel, quelles que soient les méthodes utilisées pour le mettre au jour.

Ce que cela signifie

L'affaire des sous-traitants de Meta est le symptôme d'un problème systémique : l'industrie n'a pas de normes communément admises pour les tests adverses des systèmes d'IA. Tant que les règles ne seront pas inscrites dans la loi, les grands acteurs interpréteront les « tests de sécurité » chacun à leur façon, y compris avec des méthodes qui ressemblent davantage à de l'espionnage concurrentiel déguisé. Pour les régulateurs, ce doit être un signal sans équivoque : il est temps d'agir.

*Meta est reconnue organisation extrémiste et interdite en Russie.

Dossier

Questions clés sur cet article

Où est le problème ?

Les entreprises pratiquent régulièrement le red-teaming : des équipes spécialement formées tentent de pirater ou de tromper un système pour y trouver des failles avant les acteurs malveillants. C'est une approche reconnue, approuvée par les régulateurs, pour renforcer la sécurité des produits d'IA. Mais le projet de Meta diffère radicalement du red-teaming classique : La cible : des concurrents, pas son propre produit. Meta n'améliorait pas sa propre sécurité : elle documentait les faiblesses des autres.

Que sait-on sur Le dispositif et son ampleur ?

Dans le cadre d'un projet interne de Meta, des centaines de sous-traitants avaient pour consigne de se faire passer pour des utilisateurs mineurs et de dialoguer avec des systèmes rivaux : Google Gemini, ChatGPT et plusieurs autres chatbots. L'objectif : consigner avec quelle facilité on peut amener ces systèmes sur des sujets dangereux, comme le suicide, les violences sexuelles et les drogues. Le travail s'est déroulé sur plusieurs mois, via des outils spécialisés.

Que sait-on sur Réaction du marché et des régulateurs ?

Ni Google ni OpenAI n'ont commenté publiquement les incidents précis de l'enquête de Wired. Les représentants de Meta n'ont pas non plus confirmé ni démenti les détails au moment de la publication. Les sources du média sont des sous-traitants actuels et anciens qui ont travaillé directement sur le projet. « Tester la sécurité est normal et nécessaire.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…