OpenAI enseñará a ChatGPT a determinar la edad del usuario

OpenAI, la desarrolladora del popular chatbot ChatGPT, ha anunciado la implementación de un nuevo sistema diseñado para determinar la edad de los usuarios. Esta función, que estará disponible para planes de suscripción de consumidores, tiene como objetivo identificar a usuarios menores de edad y protegerlos de contenido potencialmente dañino. La iniciativa de OpenAI genera interés y preguntas sobre los métodos utilizados para determinar la edad y qué tan efectivamente esta solución podrá proteger a los adolescentes en el entorno en línea.

El nuevo sistema se basa en el análisis del comportamiento y los patrones de uso de ChatGPT. El algoritmo rastreará cómo un usuario interactúa con el chatbot, qué temas discute, qué preguntas hace. Basándose en estos datos, se construirá una suposición sobre la edad del usuario. OpenAI enfatiza que este no es un método absolutamente preciso, pero puede servir como un nivel adicional de protección para menores.

La solución de OpenAI es impulsada por las crecientes preocupaciones sobre el impacto de la inteligencia artificial en niños y adolescentes. Muchos expertos expresan temores de que los chatbots capaces de generar texto y mantener conversaciones sobre una amplia variedad de temas puedan ser utilizados para difundir desinformación, propaganda y otro contenido no deseado. En este contexto, las empresas que desarrollan tales tecnologías se enfrentan con la necesidad de tomar medidas para proteger a los usuarios menores de edad.

La implementación del sistema de predicción de edad en ChatGPT plantea una serie de preguntas. Primero, ¿cuán preciso será el algoritmo? Existe el riesgo de que identifique erróneamente a usuarios adultos como menores, y viceversa. Segundo, ¿cómo se garantizará la confidencialidad de los datos de los usuarios? OpenAI afirma que los datos se utilizarán únicamente para fines de determinación de edad y no se compartirán con terceros. Sin embargo, las cuestiones de seguridad de datos y privacidad siguen siendo relevantes.

En general, la iniciativa de OpenAI es un paso importante hacia la protección de usuarios menores de edad en el entorno en línea. Sin embargo, la efectividad de este sistema dependerá de su precisión, confiabilidad y cumplimiento de los principios de privacidad. Las empresas que desarrollan tecnologías de inteligencia artificial necesitan prestar especial atención a las cuestiones de seguridad y protección de niños y adolescentes.