Meta reduce la moderación externa y confía la revisión de contenido a una IA más avanzada

Meta pretende reducir de forma notable el papel de los contratistas externos en la moderación de Facebook e Instagram. La compañía quiere traspasar cada vez más revisiones de contenido a sus propios sistemas de IA y dejar a las personas las decisiones más arriesgadas y polémicas.

Cómo cambia la moderación

Meta explicó que en los próximos años desplegará de forma gradual sistemas de IA más avanzados en todas sus aplicaciones. No se trata solo de filtrar spam, sino de aplicar las normas al contenido de forma completa: la empresa quiere encontrar y eliminar con más precisión y rapidez las infracciones graves, como el fraude, el contenido ilegal, el contenido sobre venta de drogas y otras categorías peligrosas. Si los nuevos sistemas superan de forma constante a los métodos actuales, Meta reducirá su dependencia de contratistas externos y reforzará sus equipos y herramientas internos.

Es un giro notable para todo el modelo operativo de Meta. Durante años, la compañía combinó la detección automática de infracciones con el trabajo de miles de moderadores externos que revisaban a mano publicaciones y denuncias polémicas. Ahora apuesta a que los modelos actuales gestionan mejor el trabajo masivo, repetitivo y cambiante, en el que a una persona le cuesta mantener el ritmo. Para Meta es a la vez una cuestión de velocidad, escala y coste de la moderación en plataformas con miles de millones de contenidos.

Qué sabe hacer ya la IA

La compañía afirma que las primeras pruebas de los nuevos sistemas son lo bastante sólidas como para ampliar su papel. Como argumento, Meta no ofrece promesas generales de mayor eficiencia, sino métricas concretas sobre estafas, cuentas falsas, infracciones de carácter sexual y anuncios sospechosos. Sobre esas cifras construye su tesis de que parte del trabajo que antes hacían proveedores externos puede pasar ahora a su propia IA.

• Encuentran y bloquean unos 5000 intentos de estafa adicionales al día que los equipos de revisión existentes no detectaban.
• Redujeron en más de un 80% las denuncias de cuentas que suplantan a las celebridades más imitadas.
• Detectan el doble de contenido infractor con propuestas sexuales dirigidas a adultos y cometen más de un 60% menos de errores.
• Detectan escenarios complejos de secuestro de cuentas, en los que las señales aisladas parecen inofensivas pero en conjunto apuntan a un ataque.
• Tras pruebas más amplias, redujeron un 7% las visualizaciones de anuncios con estafas y otras infracciones graves.

Meta destaca además la cobertura de idiomas. Según la compañía, los nuevos sistemas funcionan en idiomas que habla el 98% de las personas en línea, mientras que antes la cobertura rondaba los 80 idiomas. Más que la cifra, importa que los modelos aprenden más rápido a adaptarse al contexto local: jerga, emojis, palabras clave en clave y el comportamiento de comunidades de nicho. Son justo esos detalles los que a menudo convierten la moderación automática en un punto débil, sobre todo cuando los malintencionados cambian de táctica con rapidez.

Dónde seguirán las personas

Meta no pretende sacar por completo a las personas de la cadena. La compañía dice sin rodeos que la IA asumirá las tareas que encajan mejor con la tecnología: revisiones repetitivas de contenido gráfico, búsqueda masiva de esquemas de estafa y categorías en las que los infractores se adaptan constantemente a las normas y esquivan los filtros. Pero las decisiones más sensibles seguirán en manos de personas, como las apelaciones tras el bloqueo de una cuenta o los casos que pueden derivar en interacción con las fuerzas del orden.

En este esquema el papel humano cambia, no desaparece. Los expertos diseñarán, entrenarán, probarán y evaluarán los sistemas, vigilarán los sesgos y la calidad de las decisiones y analizarán los casos complejos en los que el contexto pesa más que la velocidad. Meta promete también que las normas de la comunidad no cambian por esta transición. En paralelo, la compañía lanza un asistente de soporte con IA en Facebook e Instagram para que los usuarios entiendan mejor por qué se eliminó un contenido, cómo apelar y qué ocurre después.

Qué significa

Meta pasa la IA de simple filtro auxiliar al núcleo de la gobernanza de la plataforma. Si la transición funciona, la compañía reducirá su dependencia de contratistas y acelerará la moderación a escala global. Pero también sube el precio del error: cuando una decisión polémica la toma un modelo y no una persona, cualquier imprecisión sistémica puede escalar al instante a millones de usuarios. La prueba inmediata para Meta es demostrar que este esquema realmente produce menos errores y no solo reduce costes.

*Meta está reconocida como organización extremista y prohibida en Rusia.