Meta adota IA própria para moderar conteúdo e deixa de depender de fornecedores externos

A Meta anunciou novos sistemas de IA para moderação e aplicação de regras em suas plataformas: Facebook, Instagram e Threads. Ao mesmo tempo, a empresa reduz a dependência de prestadores terceirizados, que antes faziam boa parte do trabalho de identificação de violações. Segundo a Meta, suas ferramentas próprias de IA superam as abordagens anteriores em vários critérios importantes.

Os novos sistemas detectam com mais precisão violações das regras da plataforma, bloqueiam golpes de forma mais eficaz, respondem mais rápido a eventos em tempo real e geram menos falsos positivos, ou seja, têm menor probabilidade de bloquear conteúdo legítimo por engano. A mudança faz parte de uma transformação de grande escala que a Meta conduz desde o início de 2025. Em janeiro, a empresa anunciou o fim do programa de checagem de fatos independente nos EUA e a adoção do modelo de Community Notes, com notas explicativas escritas por usuários, nos moldes do X.

Na ocasião, a Meta também afrouxou várias políticas sobre conteúdo político e ajustou o funcionamento das recomendações algorítmicas. A migração de fornecedores externos para sistemas próprios é a continuação lógica desse rumo. Os prestadores externos de moderação sempre foram um elo frágil: trabalhavam mais devagar, custavam mais e não tinham acesso direto aos sinais internos da plataforma.

São esses sinais que permitem aos sistemas da Meta detectar padrões de violação muito antes do que uma equipe de revisores externos consegue. A velocidade de resposta a eventos reais é um dos parâmetros críticos para plataformas com bilhões de usuários. Durante desastres naturais, eleições, conflitos militares e outras crises, o volume de conteúdo potencialmente nocivo dispara.

Sistemas de IA com acesso contínuo a fluxos de dados em tempo real levam vantagem objetiva sobre equipes de revisores externos justamente nesses momentos de pico. Merece atenção à parte a meta declarada de reduzir o overenforcement, isto é, os bloqueios excessivos. É um ponto sensível antigo da Meta: a remoção de conteúdo noticioso, publicações jornalísticas, materiais médicos e manifestações de minorias já motivou críticas à empresa repetidas vezes.

Segundo representantes da Meta, os novos sistemas devem distinguir com mais precisão violações reais de casos limítrofes. Por outro lado, a transição completa para a moderação automatizada traz riscos próprios. Os sistemas de IA são treinados com dados históricos e podem reproduzir vieses presentes nas amostras de treinamento.

Sem um mecanismo transparente de contestação e sem auditoria independente, usuários e reguladores não conseguirão avaliar quão justo é o funcionamento desses sistemas na prática. Reguladores europeus já exigem que grandes plataformas divulguem informações sobre seus sistemas de moderação e permitam a contestação de decisões, no âmbito da Lei de Serviços Digitais (DSA). Os EUA ainda não têm um equivalente a essas exigências, mas a pressão regulatória no mundo continua crescendo.

Para a Meta, adotar sistemas próprios de IA é, ao mesmo tempo, uma escolha tecnológica e de reputação. Do ponto de vista tecnológico, a empresa ganha uma ferramenta mais flexível e escalável, que pode ser adaptada e retreinada para tarefas específicas. Do ponto de vista reputacional, mostra que assume o controle direto da infraestrutura central de suas plataformas, sem terceirizá-la.

A Meta ainda não revelou publicamente como exatamente os novos sistemas são estruturados, quais modelos estão por trás deles e como é organizada a supervisão humana. As respostas a essas perguntas vão definir se a nova abordagem é um avanço real em segurança de conteúdo ou mais uma rodada de gestão opaca das maiores plataformas sociais do mundo.

*A Meta é considerada organização extremista e está banida na Rússia.