Contratados da Meta se passaram por crianças e testaram ChatGPT e Gemini em tópicos perigosos

Centenas de contratantes da Meta fingiram ser adolescentes para provocar Gemini, ChatGPT e outros chatbots concorrentes a discussões sobre suicídio, sexo e drogas. Uma investigação do Wired revela detalhes de um projeto classificado que levanta questões agudas sobre a ética de inteligência competitiva na era da IA.

O

Esquema e Seu Escopo Como parte de um projeto interno da Meta, centenas de contratantes receberam instruções: fingir ser usuários menores de idade e se envolver em diálogos com sistemas concorrentes — Google Gemini, ChatGPT e vários outros chatbots. A tarefa era documentar quão facilmente esses sistemas poderiam ser levados a discussões de tópicos perigosos: suicídio, agressão sexual, drogas. O trabalho foi conduzido através de ferramentas especializadas durante vários meses.

Os contratantes não revelaram sua filiação nem ao sistema nem aos seus desenvolvedores — pareciam usuários ordinários interessados em tópicos sensíveis. Segundo Wired, o esquema envolvia centenas de pessoas gerando milhares de sessões de teste diariamente. Notavelmente, apenas concorrentes foram alvo — os próprios modelos da Meta (Llama, Meta AI) não foram incluídos nos testes.

Qual É o

Problema As empresas praticam regularmente red-teaming — um método em que equipes especialmente treinadas tentam hackear ou enganar um sistema para encontrar vulnerabilidades antes que atores maliciosos o façam. Esta é uma abordagem reconhecida e aprovada por reguladores para melhorar a segurança do produto de IA. Mas o projeto da Meta difere fundamentalmente do red-teaming padrão: *O alvo são concorrentes, não seu próprio produto.

A Meta não estava melhorando sua própria segurança — estava documentando fraquezas alheias. O método é a personificação sistemática de crianças.* Criar perfis falsos menores de idade para manipular sistemas de IA vai além dos padrões éticos reconhecidos.

* Falta de transparência. Testes responsáveis pressupõem pelo menos protocolos éticos mínimos. Nada disso existia aqui.

* Possível duplo uso. A Meta criticou repetidamente concorrentes publicamente por proteção insuficiente de menores. Se essa crítica é apoiada por dados obtidos através de provocações encobertas, é manipulação em vez de preocupação genuína com segurança.

Reação do

Mercado e Reguladores Nem Google nem OpenAI comentaram publicamente sobre incidentes específicos da investigação Wired. Representantes da Meta no momento da publicação não confirmaram nem negaram detalhes. As fontes da publicação — contratantes atuais e anteriores que trabalharam diretamente no projeto.

"Testar segurança é normal e necessário.

Fingir sistematicamente ser uma criança para desacreditar o produto de outra pessoa é algo completamente diferente", dizem especialistas em ética de IA entrevistados pelo Wired. Na Europa, essa atividade potencialmente cai sob a DSA (Lei de Serviços Digitais), que regulamenta como plataformas trabalham com menores e estabelece requisitos de transparência. Legisladores americanos atualmente carecem de ferramentas comparáveis, embora a segurança infantil online tenha sido discutida no Congresso há anos — notadamente no contexto do KOSA (Lei de Segurança Infantil Online). Um ponto significativo: os próprios chatbots — Gemini e ChatGPT — realmente demonstraram vulnerabilidades respondendo a solicitações de "adolescentes" com conteúdo sobre suicídio e drogas. O problema é real, independentemente dos métodos usados para descobri-lo.

O

Que Isso Significa A história com contratantes da Meta é um sintoma de um problema sistêmico: a indústria carece de padrões comumente aceitos para testes adversariais de sistemas de IA. Até que as regras sejam fixadas legislativamente, grandes players interpretarão "testes de segurança" cada um à sua maneira — incluindo métodos que mais se assemelham a inteligência competitiva encoberta. Para reguladores, isso deve ser um sinal inequívoco para agir. *A Meta é reconhecida como uma organização extremista e proibida na Federação Russa.