Meta barra adolescentes: personagens de IA vão para a recuperação

A Meta suspendeu o acesso de adolescentes aos seus personagens de IA em todos os aplicativos da empresa, incluindo Instagram e WhatsApp. A decisão vale para o mundo todo. A empresa ressalta que não se trata de abandonar o produto, mas de uma pausa: a Meta prepara uma versão atualizada dos personagens de IA para adolescentes, que levará em conta as particularidades de cada faixa etária. Usuários adultos da Meta continuam podendo trocar mensagens com versões virtuais de celebridades, como Paris Hilton ou Tom Brady.

Que mudou para os adolescentes

A Meta confirmou oficialmente o fechamento temporário do acesso de menores de idade aos seus personagens de IA em todos os aplicativos, incluindo Instagram e WhatsApp. A restrição vale globalmente. Para os adultos, o serviço segue funcionando como antes: é possível, por exemplo, conversar com versões virtuais de Paris Hilton ou Tom Brady. Segundo a empresa, isso não é o fim da história, e sim uma pausa para criar uma versão mais adequada do produto, levando em conta as particularidades etárias dos usuários.

Como surgiram os personagens de IA da

Meta e qual era o problema

Desde o início, os personagens de IA da Meta pareciam uma tentativa de alcançar o Character.ai. A ideia era permitir que os usuários conversassem com alguém que se parece e fala como seu ídolo. Mas os algoritmos por trás desses bots, por vezes, geravam conteúdo incompatível com um aplicativo familiar: o interlocutor virtual podia abordar temas inadequados para um estudante ou se mostrar insistente demais. A causa é que os grandes modelos de linguagem, por natureza, tendem a alucinar e nem sempre respeitam os filtros estabelecidos.

Por que a Meta suspendeu o acesso justamente agora

Reguladores do mundo todo, especialmente na Europa e nos EUA, acompanham de perto como as empresas de tecnologia protegem as crianças. O contexto são anos de investigações sobre o impacto do Instagram na autoestima dos adolescentes — a empresa não pode se dar ao luxo de enfrentar mais um escândalo de grande repercussão, desta vez ligado à inteligência artificial. É mais simples suspender o serviço agora e refazer o modelo do que pagar multas bilionárias e dar explicações ao Senado mais tarde.

Que dificuldades continuam sem solução

A Meta ainda não detalhou o que exatamente vai mudar na versão atualizada para adolescentes. Os métodos usuais de aprendizado por reforço com feedback humano (RLHF) nem sempre dão conta de gírias e contextos adolescentes, nem de tentativas de burlar o sistema por meio de prompts de jailbreak. Criar uma IA ao mesmo tempo carismática e totalmente inofensiva é uma tarefa complexa, e a empresa reconheceu que seus desenvolvimentos atuais não atingem esse padrão, optando por não arriscar a reputação em troca do crescimento de métricas no curto prazo.

Ao mesmo tempo, uma versão excessivamente rígida corre o risco de ficar sem graça: se os adolescentes perderem o interesse em conversar com os bots, podem migrar para outras plataformas, menos controladas. Se até a Meta, com seus recursos de moderação, admite que não consegue lidar com essa tarefa no formato atual, o desafio será ainda maior para as startups do setor.

O que exatamente a Meta suspendeu?

A Meta suspendeu o acesso de adolescentes aos seus personagens de IA em todos os seus aplicativos, incluindo Instagram e WhatsApp. A restrição vale no mundo todo, e para os usuários adultos o serviço continua funcionando como antes.

A

Meta desistiu da ideia de personagens de IA para adolescentes?

Não. A empresa afirmou que não se trata de abandonar o produto, mas de uma pausa: a Meta desenvolve uma versão atualizada dos personagens de IA para adolescentes, que levará em conta as particularidades etárias dos usuários.

Por que a Meta tomou essa decisão?

Os algoritmos por trás dos personagens de IA, por vezes, geravam conteúdo inadequado para um aplicativo familiar, e os grandes modelos de linguagem, por natureza, tendem a alucinar e nem sempre respeitam os filtros estabelecidos. O contexto é a atenção redobrada dos reguladores na Europa e nos EUA sobre como as empresas de tecnologia protegem as crianças, além de anos de investigações sobre o impacto do Instagram na autoestima dos adolescentes.

*A Meta foi reconhecida como organização extremista e é proibida na Rússia.