OpenAI publica políticas de seguridad basadas en prompts para proteger a adolescentes, dirigidas a desarrolladores de gpt-oss-safeguard

OpenAI ha publicado un conjunto de políticas de seguridad listas para usar y basadas en prompts. Su objetivo es proteger a los adolescentes en aplicaciones construidas sobre el modelo gpt-oss-safeguard. Con esta herramienta, los desarrolladores pueden añadir moderación por edad sin tener que escribir filtros complejos desde cero.

Los adolescentes son uno de los públicos más activos de las aplicaciones de AI. Chatbots, tutores, compañeros de juego, herramientas de estudio: niños y jóvenes de entre 13 y 17 años usan todo esto. Sin embargo, la mayoría de los modelos de lenguaje están configurados por defecto para un usuario adulto: no distinguen entre la pregunta de un profesional de treinta años y la de un estudiante de catorce.

La brecha entre las capacidades técnicas del modelo y su público real es desde hace tiempo un problema para quienes desarrollan productos de consumo masivo. Los reguladores de todo el mundo ya se han fijado en ello. En la Unión Europea, la Ley de IA exige una protección especial para los grupos de usuarios vulnerables, incluidos los menores.

En Estados Unidos sigue abierto el debate sobre las reglas de uso de la AI por parte de los escolares. Las empresas que desarrollan productos para un público amplio se enfrentan cada vez más a la exigencia de demostrar que su sistema no puede dañar a un menor, y esa exigencia ya no es únicamente ética: también empieza a ser legal. gpt-oss-safeguard es un modelo guardián abierto de OpenAI diseñado para revisar los mensajes entrantes y salientes en sistemas de chat.

Analiza el contenido en busca de infracciones de las políticas y puede bloquear o marcar las solicitudes problemáticas antes de que lleguen al modelo principal o al usuario. Las nuevas políticas para adolescentes se implementan como prompts, es decir, instrucciones de texto que el desarrollador envía al modelo junto con la solicitud. Así se puede añadir una capa adicional de filtrado específica para cada grupo de edad sin modificar la base de código.

Las políticas cubren riesgos especialmente relevantes para los adolescentes: autolesiones, ciberacoso, contenido sexual provocativo y situaciones en las que la AI puede asumir sin darse cuenta el papel de un adulto con autoridad y ejercer una influencia excesiva sobre una forma de pensar que aún no está formada. El desarrollador incluye la política en el prompt del sistema de su aplicación. El modelo guardián revisa cada interacción, tanto las solicitudes del usuario como las respuestas del sistema, según criterios adaptados al grupo de edad.

Si el contenido no supera el filtro, el sistema puede rechazar la respuesta, reformularla o derivar el caso a moderación manual. La principal ventaja de este enfoque es su flexibilidad: el desarrollador no recibe una caja negra con reglas rígidas, sino que trabaja con políticas configurables. Esto es fundamental, porque el contexto de seguridad para adolescentes varía mucho: una plataforma educativa para escolares, un compañero de chat para juegos y una aplicación de salud mental para jóvenes requieren enfoques de moderación distintos.

OpenAI publica estas herramientas en abierto como parte de una estrategia más amplia. Al ofrecer soluciones de moderación listas para usar, la compañía rebaja la barrera de entrada para los equipos pequeños que no tienen recursos para desarrollar sus propios sistemas de seguridad. Al mismo tiempo, contribuye a fijar estándares en el sector: si suficientes desarrolladores adoptan estas políticas, surgirá una norma de facto para proteger a los adolescentes en las aplicaciones de AI, además de una forma de demostrar ante reguladores y opinión pública un enfoque responsable del desarrollo.

La seguridad por edad pasa del terreno de las reflexiones éticas al de las herramientas concretas. Los desarrolladores que crean productos para jóvenes pueden apoyarse ahora en soluciones listas para usar de uno de los principales actores del mercado, en lugar de inventar sus propios filtros o ignorar el problema. Para la industria, es un paso en la dirección correcta.