Meta reduz moderação terceirizada e transfere a revisão de conteúdo para uma IA mais avançada

A Meta pretende reduzir de forma notável o papel de prestadores externos na moderação do Facebook e do Instagram. A empresa quer passar cada vez mais revisões de conteúdo para seus próprios sistemas de IA, deixando com as pessoas as decisões mais arriscadas e polêmicas.

Como a moderação está mudando

A Meta afirmou que, nos próximos anos, vai implantar gradualmente sistemas de IA mais avançados em todos os seus aplicativos. Não se trata apenas de filtrar spam, mas de aplicar de fato as regras ao conteúdo: a empresa quer encontrar e remover com mais precisão e rapidez as violações graves, como fraude, conteúdo ilegal, conteúdo sobre venda de drogas e outras categorias perigosas. Se os novos sistemas superarem de forma consistente os métodos atuais, a Meta vai reduzir a dependência de prestadores terceirizados e reforçar suas equipes e ferramentas internas.

É uma mudança notável para todo o modelo operacional da Meta. Durante anos, a empresa combinou a detecção automática de violações com o trabalho de milhares de moderadores externos, que revisavam manualmente publicações e denúncias polêmicas. Agora, a aposta é que os modelos atuais dão conta melhor do trabalho massivo, repetitivo e de rápida mudança, em que é difícil para uma pessoa manter o ritmo. Para a Meta, é ao mesmo tempo uma questão de velocidade, escala e custo da moderação em plataformas com bilhões de conteúdos.

O que a IA já consegue fazer

A empresa afirma que os primeiros testes dos novos sistemas parecem fortes o bastante para ampliar seu papel. Como argumento, a Meta apresenta não promessas genéricas de mais eficiência, mas métricas concretas sobre golpes, contas falsas, violações de caráter sexual e anúncios suspeitos. É nesses números que a empresa sustenta a tese de que parte do trabalho antes feito por fornecedores externos pode passar agora para sua própria IA.

• Encontram e bloqueiam cerca de 5.000 tentativas de golpe adicionais por dia, que as equipes de revisão existentes não percebiam.
• Reduziram em mais de 80% as denúncias de contas que se passam pelas celebridades mais imitadas.
• Detectam o dobro de conteúdo infrator com ofertas sexuais dirigidas a adultos e cometem mais de 60% menos erros.
• Identificam cenários complexos de invasão de contas, em que sinais isolados parecem inofensivos, mas juntos indicam um ataque.
• Após testes mais amplos, reduziram em 7% as visualizações de anúncios com golpes e outras violações graves.

A Meta também destaca a cobertura de idiomas. Segundo a empresa, os novos sistemas funcionam em idiomas falados por 98% das pessoas online, enquanto antes a cobertura era de cerca de 80 idiomas. Mais importante que o número é que os modelos aprendem mais rápido a se adaptar ao contexto local: gírias, emojis, palavras em código e o comportamento de comunidades de nicho. São justamente esses detalhes que costumam tornar a moderação automática um ponto fraco, sobretudo quando golpistas mudam de tática rapidamente.

Onde as pessoas continuam

A Meta não pretende tirar completamente as pessoas da cadeia. A empresa diz abertamente que a IA assumirá as tarefas mais adequadas à tecnologia: revisões repetitivas de conteúdo gráfico, busca em massa por esquemas de golpe e categorias em que infratores se adaptam constantemente às regras e driblam filtros. Mas as decisões mais sensíveis continuam com pessoas, como apelações após o bloqueio de uma conta ou casos que podem levar à interação com autoridades policiais.

Nesse arranjo, o papel humano muda, mas não desaparece. Especialistas vão projetar, treinar, testar e avaliar os sistemas, monitorar vieses e a qualidade das decisões e analisar casos complexos em que o contexto pesa mais que a velocidade. A Meta também promete que as regras da comunidade em si não mudam por causa dessa transição. Em paralelo, a empresa lança um assistente de suporte com IA no Facebook e no Instagram para ajudar os usuários a entender por que um conteúdo foi removido, como apelar e o que acontece depois.

O que isso significa

A Meta move a IA do papel de filtro auxiliar para o núcleo da governança da plataforma. Se a transição funcionar, a empresa reduzirá a dependência de terceirizadas e acelerará a moderação em escala global. Mas o custo do erro também aumenta: quando uma decisão polêmica é tomada por um modelo e não por uma pessoa, qualquer imprecisão sistêmica pode ser escalada instantaneamente para milhões de usuários. O próximo teste para a Meta é provar que esse modelo realmente gera menos erros, e não apenas reduz custos.

*A Meta é considerada organização extremista e está proibida na Rússia.