Una subvención de 500.000 euros: ¿quién protegerá a los adolescentes de las alucinaciones de la IA?

Mientras Sam Altman y Elon Musk discuten si la inteligencia artificial salvará a la humanidad o la convertirá en baterías, la realidad resulta bastante más prosaica e inquietante. Nuestros hijos ya viven en ese futuro: usan redes neuronales para hacer los deberes, para comunicarse e incluso como apoyo psicológico. El problema es que estas herramientas las crearon adultos para adultos, y a menudo olvidaron lo frágil que es la psique adolescente. La nueva EMEA Youth & Wellbeing Grant, dotada con 500.000 euros, intenta poner orden en este «salvaje oeste» digital.

Seamos sinceros: durante mucho tiempo, la industria de la IA funcionó bajo el lema «muévete rápido y rompe todo lo que encuentres a tu paso». Ahora toca arreglar lo que se rompió. El programa busca apoyar a organizaciones sin ánimo de lucro e investigadores independientes dispuestos a estudiar el impacto de los algoritmos en el bienestar de los jóvenes. Va mucho más allá del interés académico: es una cuestión de supervivencia en un mundo donde los deepfakes y las alucinaciones de los modelos forman ya parte del día a día.

Europa suele ejercer de vigilante estricto en materia tecnológica. Tras la aprobación de la AI Act quedó claro que prohibir no basta. Hacen falta mecanismos de protección alternativos. El medio millón de euros asignado irá a proyectos que ayuden a los adolescentes a filtrar contenido tóxico y a distinguir dónde termina la realidad y dónde empieza la fantasía generativa. Es relevante que el dinero vaya precisamente a ONG, porque no tienen el conflicto de intereses que resulta inevitable al trabajar con los grandes gigantes tecnológicos.

¿Por qué ocurre esto precisamente ahora? Estamos viendo un repunte de la desinformación y del ciberacoso amplificados por redes neuronales. Antes, un trol necesitaba tiempo para fabricar un bulo; ahora un bot lo hace en fracciones de segundo. Los investigadores que reciban la subvención tendrán que proponer soluciones concretas, desde filtros de seguridad hasta programas educativos de alfabetización digital. Es un intento de crear inmunidad frente a los efectos secundarios del progreso.

El contexto es clave. En los últimos dos años, el número de herramientas de IA en los colegios ha crecido de forma exponencial, pero las guías para usarlas con seguridad todavía se redactan sobre la marcha. La subvención de EMEA intenta cerrar esa brecha atrayendo a quienes entienden las consecuencias sociales del código mejor que los propios desarrolladores. Es una oportunidad para que equipos pequeños de la región EMEA (Europa, Oriente Medio y África) accedan a recursos que normalmente solo están al alcance de los laboratorios corporativos.

Una cifra de 500.000 euros puede parecer modesta frente a las rondas de inversión milmillonarias de OpenAI o Anthropic. Sin embargo, en el ámbito de las iniciativas sociales es una palanca considerable. Este dinero puede poner en marcha decenas de proyectos piloto que más adelante se conviertan en estándares para los reguladores públicos. Al fin y al cabo, la seguridad infantil no es un terreno en el que convenga ahorrar ni fiarse de la buena voluntad de las corporaciones.

Lo esencial: medio millón de euros es apenas una gota en el océano de la inversión en IA, pero lanza una señal clara: la seguridad de los niños habrá que pagarla con reputación y también con subvenciones concretas. ¿Podrán las ONG convertirse en un contrapeso real frente al código sin control?