Meta pasa a una IA propia para moderar contenido en lugar de proveedores externos

Meta ha anunciado nuevos sistemas de IA para la moderación y la aplicación de normas en sus plataformas: Facebook, Instagram y Threads. Al mismo tiempo, la compañía reduce su dependencia de contratistas externos, que hasta ahora realizaban buena parte del trabajo de detección de infracciones. Según Meta, sus herramientas de IA propias superan a los enfoques anteriores en varios parámetros clave.

Los nuevos sistemas detectan con más precisión las infracciones de las normas de la plataforma, bloquean con más eficacia los esquemas fraudulentos, responden más rápido a los acontecimientos en tiempo real y generan menos falsos positivos, es decir, tienen menos probabilidad de bloquear por error contenido legítimo. El paso se inscribe en la transformación a gran escala que Meta lleva a cabo desde principios de 2025. En enero, la compañía anunció el cierre de su programa de verificación de datos independiente en EE.

UU. y el cambio a un modelo de Community Notes, notas explicativas de los usuarios similares a las de X. Entonces, Meta también relajó varias políticas sobre contenido político y ajustó el funcionamiento de las recomendaciones algorítmicas.

El paso de proveedores externos a sistemas propios es la continuación lógica de ese rumbo. Los contratistas externos de moderación siempre fueron un eslabón débil: trabajaban más despacio, costaban más y no tenían acceso directo a las señales internas de la plataforma. Esas señales permiten a los sistemas de Meta detectar patrones de infracciones mucho antes de lo que puede hacerlo un equipo de revisores externos.

La velocidad de reacción ante acontecimientos reales es uno de los parámetros críticos para plataformas con miles de millones de usuarios. Durante desastres naturales, elecciones, conflictos bélicos y otras crisis, el volumen de contenido potencialmente dañino se dispara. Los sistemas de IA con acceso constante a flujos de datos en tiempo real tienen una ventaja objetiva sobre los equipos de revisores externos precisamente en esos momentos de máxima presión.

Merece atención aparte el objetivo declarado de reducir el overenforcement, es decir, los bloqueos excesivos. Es un punto débil histórico de Meta: la eliminación de contenido informativo, publicaciones periodísticas, materiales médicos y mensajes de minorías ha provocado críticas contra la compañía de forma recurrente. Según los representantes de Meta, los nuevos sistemas deberían distinguir con más precisión entre infracciones reales y casos límite.

Sin embargo, la transición total a la moderación automatizada conlleva sus propios riesgos. Los sistemas de IA se entrenan con datos históricos y pueden reproducir los sesgos presentes en las muestras de entrenamiento. Sin un mecanismo transparente de apelación ni una auditoría independiente, usuarios y reguladores no podrán evaluar hasta qué punto funcionan de forma justa en la práctica.

Los reguladores europeos ya exigen a las grandes plataformas que divulguen información sobre sus sistemas de moderación y permitan apelar las decisiones, en el marco de la Ley de Servicios Digitales (DSA). En EE. UU.

todavía no existe un equivalente de estos requisitos, pero la presión regulatoria en todo el mundo sigue creciendo. Para Meta, el cambio a sistemas de IA propios es a la vez una decisión tecnológica y de reputación. En lo tecnológico, la compañía obtiene una herramienta más flexible y escalable, que puede adaptarse y reentrenarse para tareas concretas.

En lo reputacional, demuestra que asume el control directo de la infraestructura clave de sus plataformas y no la externaliza. Meta todavía no ha revelado públicamente cómo funcionan exactamente los nuevos sistemas, qué modelos los sustentan ni cómo se organiza la supervisión humana. Las respuestas a esas preguntas determinarán si el nuevo enfoque supone un avance real en seguridad de contenido o una vuelta más de tuerca en la gestión opaca de las mayores plataformas sociales del mundo.

*Meta está reconocida como organización extremista y prohibida en Rusia.