Contratistas de Meta se hicieron pasar por niños y probaron ChatGPT y Gemini con temas peligrosos

Cientos de contratistas de Meta fingieron ser adolescentes para provocar a Gemini, ChatGPT y otros chatbots competidores a discusiones sobre suicidio, sexo y drogas. Una investigación de Wired revela los detalles de un proyecto clasificado que plantea preguntas agudas sobre la ética de la inteligencia competitiva en la era de la IA.

El

Esquema y Su Alcance Como parte de un proyecto interno de Meta, cientos de contratistas recibieron instrucciones: fingir ser usuarios menores de edad e involucrarse en diálogos con sistemas competidores — Google Gemini, ChatGPT y varios otros chatbots. La tarea era documentar qué tan fácil era forzar a estos sistemas a discusiones de temas peligrosos: suicidio, agresión sexual, drogas. El trabajo se llevó a cabo a través de herramientas especializadas durante varios meses.

Los contratistas no revelaron su afiliación ni al sistema ni a sus desarrolladores — aparecían como usuarios ordinarios interesados en temas sensibles. Según Wired, el esquema involucraba a cientos de personas generando miles de sesiones de prueba diariamente. Notablemente, solo los competidores fueron objetivo — los propios modelos de Meta (Llama, Meta AI) no fueron incluidos en las pruebas.

Cuál

Es el Problema Las empresas practican regularmente red-teaming — un método en el que equipos especialmente entrenados intentan hackear o engañar a un sistema para encontrar vulnerabilidades antes de que lo hagan los actores maliciosos. Este es un enfoque reconocido y aprobado por los reguladores para mejorar la seguridad de los productos de IA. Pero el proyecto de Meta difiere fundamentalmente del red-teaming estándar: *El objetivo son competidores, no su propio producto.

Meta no estaba mejorando su propia seguridad — estaba documentando las debilidades ajenas. El método es la suplantación sistemática de niños.* Crear perfiles falsos de menores para manipular sistemas de IA va más allá de los estándares éticos reconocidos.

* Falta de transparencia. Las pruebas responsables presuponen al menos protocolos éticos mínimos. Nada de eso existía aquí.

* Posible uso dual. Meta ha criticado repetidamente a los competidores públicamente por protección insuficiente de menores. Si esta crítica está respaldada por datos obtenidos mediante provocaciones encubiertas, es manipulación en lugar de preocupación genuina por la seguridad.

Reacción del

Mercado y los Reguladores Ni Google ni OpenAI comentaron públicamente sobre incidentes específicos de la investigación de Wired. Los representantes de Meta, en el momento de la publicación, ni confirmaron ni negaron los detalles. Las fuentes de la publicación — contratistas actuales y anteriores que trabajaron directamente en el proyecto.

"Probar la seguridad es normal y necesario.

Fingir sistemáticamente ser un niño para desacreditar el producto de otra persona es algo completamente diferente", dicen expertos en ética de IA entrevistados por Wired. En Europa, tal actividad potencialmente cae bajo la DSA (Ley de Servicios Digitales), que regula cómo las plataformas trabajan con menores y establece requisitos de transparencia. Los legisladores estadounidenses actualmente carecen de herramientas comparables, aunque la seguridad en línea de los menores ha sido discutida en el Congreso durante años — notablemente en el contexto de KOSA (Ley de Seguridad en Línea de Menores).

Un punto significativo: los propios chatbots — Gemini y ChatGPT — demostraron vulnerabilidades respondiendo a solicitudes de "adolescentes" con contenido sobre suicidio y drogas. El problema es real, independientemente de los métodos utilizados para descubrirlo.

Lo

Que Esto Significa La historia con los contratistas de Meta es un síntoma de un problema sistémico: a la industria le faltan estándares comúnmente aceptados para las pruebas adversariales de sistemas de IA. Hasta que las reglas se fijen legislativamente, los grandes actores interpretarán "pruebas de seguridad" cada uno a su manera — incluyendo métodos que más se asemejan a inteligencia competitiva encubierta. Para los reguladores, esto debería ser una señal inequívoca para actuar. *Meta es reconocida como una organización extremista y prohibida en la Federación Rusa.