Des sous-traitants de Meta se sont fait passer pour des enfants et ont testé ChatGPT et Gemini sur des sujets dangereux

Des centaines d'entrepreneurs Meta ont prétendus être des adolescents pour provoquer Gemini, ChatGPT et d'autres chatbots concurrents à discuter du suicide, du sexe et des drogues. Une enquête de Wired révèle les détails d'un projet classifié qui soulève des questions aigus sur l'éthique du renseignement concurrentiel à l'ère de l'IA.

Le

Schéma et Son Ampleur Dans le cadre d'un projet interne de Meta, des centaines d'entrepreneurs ont reçu des instructions : faire semblant d'être des utilisateurs mineurs et engager un dialogue avec des systèmes concurrents — Google Gemini, ChatGPT et plusieurs autres chatbots. La tâche était de documenter à quel point il était facile de pousser ces systèmes à discuter de sujets dangereux : suicide, agression sexuelle, drogues. Le travail a été mené via des outils spécialisés pendant plusieurs mois.

Les entrepreneurs n'ont pas révélé leur affiliation ni au système ni à ses développeurs — ils apparaissaient comme des utilisateurs ordinaires intéressés par des sujets sensibles. Selon Wired, le schéma impliquait des centaines de personnes générant des milliers de sessions de test quotidiennement. Remarquablement, seuls les concurrents ont été visés — les propres modèles de Meta (Llama, Meta AI) n'ont pas été inclus dans les tests.

Quel

Est le Problème Les entreprises pratiquent régulièrement le red-teaming — une méthode où des équipes spécialement entraînées tentent de pirater ou de tromper un système pour trouver des vulnérabilités avant que les acteurs malveillants ne le fassent. C'est une approche reconnue et approuvée par les régulateurs pour améliorer la sécurité des produits d'IA. Mais le projet de Meta diffère fondamentalement du red-teaming standard : *La cible est les concurrents, pas son propre produit.

Meta n'améliorait pas sa propre sécurité — elle documentait les faiblesses des autres. La méthode est l'usurpation d'identité systématique d'enfants.* Créer de faux profils de mineurs pour manipuler les systèmes d'IA dépasse les normes éthiques reconnues.

* Manque de transparence. Les tests responsables supposent au moins des protocoles éthiques minimaux. Rien de tout cela n'existait ici.

* Utilisation double potentielle. Meta a répétées fois critiqué publiquement les concurrents pour une protection insuffisante des enfants. Si cette critique est soutenue par des données obtenues par des provocations clandestines, c'est de la manipulation plutôt qu'une véritable préoccupation pour la sécurité.

Réaction du

Marché et des Régulateurs Ni Google ni OpenAI n'ont commenté publiquement les incidents spécifiques de l'enquête Wired. Les représentants de Meta, au moment de la publication, n'ont ni confirmé ni nié les détails. Les sources de la publication — des entrepreneurs actuels et anciens qui ont travaillé directement sur le projet.

"Tester la sécurité est normal et nécessaire.

Prétendre systématiquement être un enfant pour discréditer le produit de quelqu'un d'autre, c'est quelque chose de complètement différent", disent les experts en éthique de l'IA interrogés par Wired. En Europe, une telle activité pourrait potentiellement relever de la DSA (Loi sur les services numériques), qui réglemente la façon dont les plateformes travaillent avec les mineurs et établit des exigences de transparence. Les législateurs américains manquent actuellement d'outils comparables, bien que la sécurité en ligne des enfants soit discutée au Congrès depuis des années — notamment dans le contexte du KOSA (Loi sur la sécurité en ligne des enfants).

Un point important : les chatbots eux-mêmes — Gemini et ChatGPT — ont effectivement démontré des vulnérabilités en répondant aux demandes "d'adolescents" avec du contenu sur le suicide et les drogues. Le problème est réel, indépendamment des méthodes utilisées pour le découvrir.

Ce

Que Cela Signifie L'histoire avec les entrepreneurs Meta est un symptôme d'un problème systémique : l'industrie n'a pas de normes communément acceptées pour les tests adversariels des systèmes d'IA. Jusqu'à ce que les règles soient fixées législativement, les grands acteurs interpréteront "les tests de sécurité" chacun à leur manière — y compris des méthodes qui ressemblent davantage au renseignement concurrentiel clandestin. Pour les régulateurs, c'est un signal sans équivoque pour agir. *Meta est reconnue comme une organisation extrémiste et interdite dans la Fédération de Russie.