Meta deja fuera a los adolescentes: sus personajes de IA vuelven a examen

Meta ha suspendido el acceso de los adolescentes a sus personajes de IA en todas las aplicaciones de la compañía, incluidas Instagram y WhatsApp. La decisión se aplica en todo el mundo. La empresa subraya que no supone abandonar el producto: se trata de una pausa. Meta prepara una versión actualizada de sus personajes de IA para adolescentes que tendrá en cuenta las particularidades de cada edad. Los usuarios adultos de Meta pueden seguir chateando con versiones virtuales de famosos, como Paris Hilton o Tom Brady.

Qué cambia para los adolescentes

Meta ha confirmado oficialmente el cierre temporal del acceso de los menores a sus personajes de IA en todas sus aplicaciones, incluidas Instagram y WhatsApp. La restricción se aplica a escala global. Para los usuarios adultos, el servicio sigue funcionando como hasta ahora: pueden, por ejemplo, chatear con las versiones virtuales de Paris Hilton o Tom Brady. Según la compañía, esto no es el final de la historia, sino una pausa para crear una versión del producto más adecuada, que tenga en cuenta las particularidades de cada edad.

Cómo nacieron los personajes de IA de

Meta y cuál era el problema

Desde el principio, los personajes de IA de Meta parecían un intento de alcanzar a Character.ai. La idea era que los usuarios pudieran hablar con alguien que se pareciera y se expresara como su ídolo. Pero los algoritmos que hay detrás de estos bots a veces generaban contenido impropio de una aplicación familiar: el interlocutor virtual podía tratar temas no aptos para un escolar o mostrarse excesivamente insistente. El motivo es que los grandes modelos de lenguaje tienden por naturaleza a alucinar y no siempre respetan los filtros establecidos.

Por qué Meta ha suspendido el acceso precisamente ahora

Los reguladores de todo el mundo, sobre todo en Europa y Estados Unidos, vigilan de cerca cómo protegen las tecnológicas a los menores. Todo esto ocurre en paralelo a años de litigios sobre el impacto de Instagram en la autoestima de los adolescentes, y la compañía no puede permitirse otro escándalo sonado relacionado con la inteligencia artificial. Es más sencillo suspender ahora el servicio y rehacer el modelo que pagar después multas milmillonarias y dar explicaciones ante el Senado.

Qué dificultades siguen sin resolverse

Meta todavía no ha precisado qué cambiará exactamente en la versión actualizada para adolescentes. Los métodos habituales de aprendizaje por refuerzo a partir de retroalimentación humana no siempre logran lidiar con la jerga adolescente, el contexto y los intentos de burlar el sistema mediante peticiones de jailbreak. Crear una IA que sea a la vez carismática y completamente inofensiva es una tarea complicada, y la compañía ha reconocido que sus desarrollos actuales no alcanzan ese estándar, por lo que ha decidido no arriesgar su reputación a cambio de mejorar sus métricas a corto plazo.

Al mismo tiempo, una versión demasiado restrictiva corre el riesgo de resultar insulsa: si a los adolescentes deja de interesarles hablar con los bots, pueden marcharse a otras plataformas menos controladas. Si incluso Meta, con todos sus recursos de moderación, admite que no puede con esta tarea en el formato actual, a las startups del sector les resultará aún más difícil.

¿Qué ha suspendido exactamente Meta?

Meta ha suspendido el acceso de los adolescentes a sus personajes de IA en todas sus aplicaciones, incluidas Instagram y WhatsApp. La restricción se aplica en todo el mundo, y para los usuarios adultos el servicio sigue funcionando como hasta ahora.

¿Ha renunciado

Meta a la idea de los personajes de IA para adolescentes?

No. La compañía ha afirmado que no supone abandonar el producto: se trata de una pausa. Meta está desarrollando una versión actualizada de sus personajes de IA para adolescentes que tendrá en cuenta las particularidades de cada edad.

¿Por qué ha dado Meta este paso?

Los algoritmos en los que se basan los personajes de IA a veces generaban contenido inadecuado para una aplicación familiar, y los grandes modelos de lenguaje tienden por naturaleza a alucinar y no siempre respetan los filtros establecidos. Todo ello ocurre mientras los reguladores de Europa y Estados Unidos vigilan de cerca cómo protegen las tecnológicas a los menores, y en paralelo a años de litigios sobre el impacto de Instagram en la autoestima de los adolescentes.

*Meta está reconocida como organización extremista y prohibida en la Federación de Rusia.