Meta tira adolescentes da sala: personagens de IA vão para a recuperação

A Meta suspendeu o acesso de adolescentes aos seus personagens de IA em todos os aplicativos da empresa, incluindo Instagram e WhatsApp. A decisão vale para o mundo todo. A companhia ressalta que não está abandonando o produto, e sim fazendo uma pausa: a Meta prepara uma versão atualizada dos personagens de IA para adolescentes, que vai levar em conta as particularidades de cada faixa etária. Usuários adultos da Meta continuam podendo trocar mensagens com versões virtuais de celebridades, como Paris Hilton ou Tom Brady.

O que mudou para os adolescentes

A Meta confirmou oficialmente o bloqueio temporário do acesso de menores de idade aos seus personagens de IA em todos os aplicativos, incluindo Instagram e WhatsApp. A restrição vale globalmente. Para usuários adultos, o serviço segue funcionando normalmente: é possível, por exemplo, conversar com versões virtuais de Paris Hilton ou Tom Brady. Segundo a empresa, este não é o fim da história, mas uma pausa para criar uma versão mais adequada do produto, levando em conta as particularidades de cada faixa etária.

Como surgiram os personagens de IA da

Meta e qual era o problema

Desde o início, os personagens de IA da Meta pareciam uma tentativa de alcançar a Character.ai. A ideia era permitir que os usuários conversassem com alguém que tivesse a aparência e o jeito de falar de seus ídolos. Mas os algoritmos por trás desses bots às vezes geravam conteúdo incompatível com um aplicativo voltado para a família: o interlocutor virtual podia abordar temas impróprios para um estudante ou se mostrar insistente demais. O motivo é que grandes modelos de linguagem, por natureza, tendem a alucinar e nem sempre respeitam os filtros estabelecidos.

Por que a Meta suspendeu o acesso justamente agora

Reguladores do mundo todo, especialmente na Europa e nos EUA, acompanham de perto como as empresas de tecnologia protegem crianças. Isso acontece em meio a anos de disputas sobre o impacto do Instagram na autoestima de adolescentes, e a empresa não pode se dar ao luxo de mais um grande escândalo envolvendo inteligência artificial. É mais fácil suspender o serviço agora e reconstruir o modelo do que pagar multas bilionárias e dar explicações ao Senado mais tarde.

Quais desafios continuam sem solução

A Meta ainda não detalhou o que exatamente vai mudar na versão atualizada para adolescentes. Os métodos convencionais de aprendizado por reforço com feedback humano nem sempre dão conta da gíria adolescente, do contexto e das tentativas de burlar o sistema com prompts de jailbreak. Criar uma IA que seja ao mesmo tempo carismática e totalmente inofensiva é uma tarefa difícil.

A empresa admitiu que seus avanços atuais não atingem esse padrão e decidiu não arriscar a reputação em troca de um crescimento de métricas no curto prazo. Por outro lado, uma versão restritiva demais corre o risco de ficar sem graça: se os adolescentes perderem o interesse em conversar com os bots, podem migrar para outras plataformas, menos controladas. Se até a Meta, com todos os seus recursos de moderação, reconhece que não dá conta dessa tarefa no formato atual, a vida das startups do setor será ainda mais difícil.

O que exatamente a Meta suspendeu?

A Meta suspendeu o acesso de adolescentes aos seus personagens de IA em todos os seus aplicativos, incluindo Instagram e WhatsApp. A restrição vale no mundo todo, e para usuários adultos o serviço segue funcionando normalmente.

A

Meta desistiu da ideia de personagens de IA para adolescentes?

Não. A empresa afirmou que não está abandonando o produto, e sim fazendo uma pausa: a Meta desenvolve uma versão atualizada dos personagens de IA para adolescentes, que vai levar em conta as particularidades de cada faixa etária.

Por que a Meta tomou essa decisão?

Os algoritmos por trás dos personagens de IA às vezes geravam conteúdo inadequado para um aplicativo voltado para a família, e grandes modelos de linguagem, por natureza, tendem a alucinar e nem sempre respeitam os filtros estabelecidos. Isso acontece em meio à atenção redobrada de reguladores na Europa e nos EUA sobre como as empresas de tecnologia protegem crianças, além de anos de disputas sobre o impacto do Instagram na autoestima de adolescentes.

*Meta признана экстремистской организацией и запрещена в РФ.