OpenAI implementa un sistema de detección de edad para proteger a menores

OpenAI está tomando nuevas medidas para proteger a los usuarios menores de edad en su plataforma ChatGPT, anunciando la implementación de un modelo de predicción de edad. Este sistema, lanzado el martes, está diseñado para identificar automáticamente cuentas pertenecientes a individuos menores de 18 años y activar medidas de seguridad adicionales. En los últimos meses, OpenAI ha enfrentado una presión creciente con respecto a su política de protección de usuarios, particularmente en relación a los niños.

Los críticos han expresado preocupación sobre el impacto potencial de la inteligencia artificial generativa en menores de edad, incluido el acceso a contenido no deseado y los riesgos asociados con la interacción con IA. En respuesta, OpenAI ha tomado una serie de pasos para fortalecer la seguridad de su plataforma. El nuevo modelo de predicción de edad analiza varios factores relacionados con el uso de cuentas ChatGPT para evaluar la edad del usuario.

Si el sistema determina que un usuario probablemente es menor de 18 años, las medidas de protección se activan automáticamente para esa cuenta. Estas medidas incluyen restringir el acceso a contenido considerado "sensible" o potencialmente dañino para menores. Es importante destacar que el sistema no es infalible.

OpenAI reconoce que puede haber casos en los que la edad de un usuario adulto se identifique erróneamente como menor de edad. En tales situaciones, se les da a los usuarios la oportunidad de confirmar su edad utilizando el servicio de verificación de identidad Persona. Tras la confirmación exitosa de la edad, se restaura el acceso completo a las funciones de ChatGPT.

La implementación del modelo de predicción de edad es un paso importante hacia la creación de un entorno en línea más seguro para los niños. Sin embargo, esto es solo un elemento de una estrategia integral, y OpenAI necesita continuar mejorando sus sistemas de seguridad e interactuando con expertos y partes interesadas para garantizar una protección efectiva de los usuarios menores de edad. Este paso podría convertirse en un estándar de la industria, obligando a otras empresas que trabajan en el espacio de la IA generativa a tomar medidas similares.

En conclusión, OpenAI demuestra una disposición a responder a las preocupaciones relacionadas con la seguridad infantil en el entorno digital. La implementación de un sistema de detección de edad es un paso importante, pero se necesitan mayores esfuerzos y mejora continua para garantizar una protección confiable de los menores.