Trabajo sucio para una inteligencia «limpia»: cómo las mujeres indias pagan con su salud mental la seguridad de tus IA

Imagina una aldea india típica: ruido de cacharros, gritos de niños, olor a especias. En medio de esta estampa pastoral, una joven está sentada con un portátil sobre un saliente de barro. No escribe el código del futuro ni crea arte digital. En su pantalla hay una escena de violencia brutal, captada por la cámara con todo detalle. Debe verla hasta el final para poner la etiqueta correcta. No es el guion de una distopía ciberpunk, sino la realidad cotidiana de quienes hacen que tu IA sea «segura». Mientras OpenAI, Google y Anthropic compiten por la ética de sus modelos, el trabajo sucio lo hacen personas cuyos nombres nunca aparecerán en los créditos.

La industria de la inteligencia artificial está hoy obsesionada con el «alineamiento» (alignment). Queremos que las redes neuronales no den recetas de napalm, no propaguen el odio y no traten mal a los usuarios. Pero para lograrlo, primero hay que mostrar a los algoritmos qué es lo «malo». Millones de horas de vídeo con violencia, torturas y explotación deben etiquetarse a mano. Resulta irónico que, para crear una inteligencia artificial que no hiera los sentimientos del usuario occidental, haya que infligir traumas psicológicos muy reales y profundos a los habitantes del Sur Global. Es una especie de colonialismo digital: exportamos pureza ética y dejamos residuos tóxicos en forma de psiques destrozadas.

Empresas como Scale AI, Appen o Sama contratan a decenas de miles de trabajadores en India, Kenia y Filipinas. Para mujeres de la India rural como Monsumi Murmu, esta suele ser la única oportunidad de ganar dinero sin salir de casa ni abandonar a la familia. Pero el precio resulta desorbitado. Tras diez horas viendo escenas de violencia sexualizada o asesinatos, la mente simplemente se «apaga». Las trabajadoras describen este estado como «vacío» o «mancha en blanco». Vuelven con sus familias y sus hijos, pero no son capaces de sentir alegría ni cercanía. No es solo un trabajo duro: es la exportación sistemática del trastorno de estrés postraumático a escala industrial.

El problema se agrava porque los gigantes tecnológicos se distancian al máximo de esta cadena de suministro. Compran conjuntos de datos ya «limpios» a contratistas que, a su vez, recortan en todo, incluido el apoyo psicológico. Los contratos suelen fijar requisitos de productividad, pero casi nunca de protección de la salud mental. El resultado es un esquema clásico: la materia prima (los datos) se extrae en condiciones duras, se depura por unos céntimos en las regiones más pobres y se vende como un producto de élite, «innovador», en San Francisco. Sin este escudo vivo hecho de psiques humanas, GPT-4 no habría durado ni un día sin un gran escándalo.

Lo más triste de la situación es la ausencia de alternativa. Por ahora no se puede automatizar este proceso: para enseñar a una IA a reconocer la violencia, hace falta una persona que le diga que eso es violencia. Hemos caído en una trampa en la que el humanismo de una parte de la humanidad se construye sobre la deshumanización de otra. Mientras en Silicon Valley debaten el riesgo de una rebelión de los robots, en las aldeas indias las mujeres pierden la capacidad de sentir, solo para que tu chatbot no diga más de la cuenta. Es un defecto fundamental de la industria tecnológica actual, que suele silenciarse con pudor tras presentaciones sobre el «beneficio para la humanidad».

Lo principal: la seguridad de la IA hoy no son solo elegantes fórmulas matemáticas, sino también miles de vidas rotas al otro lado del planeta. ¿Logrará la industria crear filtros automáticos para entrenar a los filtros, o la «carne humana» seguirá siendo el componente más barato de las redes neuronales?