Meta echó a los adolescentes por la puerta: los personajes de IA vuelven al rediseño

Meta ha suspendido el acceso de los adolescentes a sus personajes de IA en todas las aplicaciones de la compañía, incluidas Instagram y WhatsApp — la decisión se aplica en todo el mundo. La empresa subraya que no se trata de un abandono del producto, sino de una pausa: Meta está preparando una versión actualizada de los personajes de IA para adolescentes que tendrá en cuenta las particularidades de edad de los usuarios. Los usuarios adultos de Meta todavía pueden conversar con versiones virtuales de celebridades — por ejemplo, Paris Hilton o Tom Brady.

Qué cambió para los adolescentes

Meta confirmó oficialmente el cierre temporal del acceso de los menores a sus personajes de IA en todas sus aplicaciones — incluidas Instagram y WhatsApp. La restricción se aplica de forma global. Para los usuarios adultos, el servicio sigue funcionando como antes: pueden, por ejemplo, conversar con versiones virtuales de Paris Hilton o Tom Brady. Según la compañía, esto no es el final de la historia, sino una pausa para crear una versión del producto más adecuada — teniendo en cuenta las particularidades de edad de los usuarios.

Cómo surgieron los personajes de IA de

Meta y cuál era el problema

Desde el principio, los personajes de IA de Meta parecían un intento de alcanzar a Character.ai. La idea era dar a los usuarios la posibilidad de conversar con alguien que luce y habla como su ídolo. Pero los algoritmos que sustentan a estos bots a veces generaban contenido que no encajaba en los límites de una aplicación familiar: un interlocutor virtual podía abordar temas no aptos para un escolar o mostrarse excesivamente insistente. La razón es que los grandes modelos de lenguaje son por naturaleza propensos a las alucinaciones y no siempre respetan los filtros establecidos.

Por qué Meta suspendió el acceso justo ahora

Los reguladores de todo el mundo, especialmente en Europa y Estados Unidos, vigilan de cerca cómo las empresas tecnológicas protegen a los niños. Esto ocurre en medio de años de investigaciones sobre el impacto de Instagram en la autoestima de los adolescentes — otro escándalo sonado ligado a la inteligencia artificial es algo que la compañía no puede permitirse. Es más sencillo suspender el servicio ahora y rediseñar el modelo que pagar después multas millonarias y dar explicaciones ante el Senado.

Qué dificultades siguen sin resolverse

Meta aún no ha precisado qué cambiará exactamente en la versión adolescente actualizada. Los métodos habituales de aprendizaje por refuerzo basado en la retroalimentación humana no siempre logran manejar el argot adolescente, el contexto y los intentos de burlar el sistema mediante peticiones de jailbreak. Crear una IA que sea a la vez carismática y totalmente inofensiva es una tarea compleja, y la compañía ha reconocido que sus desarrollos actuales no alcanzan ese estándar, prefiriendo no arriesgar su reputación por un crecimiento de métricas a corto plazo.

Al mismo tiempo, una versión demasiado estricta corre el riesgo de resultar aburrida: si a los adolescentes deja de interesarles conversar con los bots, podrían migrar a otras plataformas menos controladas. Si incluso Meta, con sus recursos de moderación, admite que no logra resolver este problema en su formato actual, será todavía más difícil para las startups de este sector.

¿Qué exactamente suspendió Meta?

Meta suspendió el acceso de los adolescentes a sus personajes de IA en todas sus aplicaciones, incluidas Instagram y WhatsApp. La restricción se aplica en todo el mundo, mientras que para los usuarios adultos el servicio sigue funcionando como antes.

¿Abandonó

Meta la idea de los personajes de IA para adolescentes?

No. La compañía declaró que no se trata de un abandono del producto, sino de una pausa: Meta está desarrollando una versión actualizada de los personajes de IA para adolescentes que tendrá en cuenta las particularidades de edad de los usuarios.

¿Por qué dio Meta este paso?

Los algoritmos que sustentan a los personajes de IA a veces generaban contenido no apto para una aplicación familiar, y los grandes modelos de lenguaje son por naturaleza propensos a las alucinaciones y no siempre respetan los filtros establecidos. Esto ocurre en medio de la estrecha atención de los reguladores en Europa y Estados Unidos sobre cómo las empresas tecnológicas protegen a los niños, y de años de investigaciones sobre el impacto de Instagram en la autoestima de los adolescentes.

*Meta está reconocida como organización extremista y está prohibida en Rusia.