Meta colocou adolescentes para fora: personagens de IA vão para revisão

A Meta suspendeu o acesso de adolescentes aos seus personagens de IA em todos os aplicativos da empresa, incluindo Instagram e WhatsApp — a decisão vale em todo o mundo. A empresa destaca que não se trata de um abandono do produto, mas de uma pausa: a Meta está preparando uma versão atualizada dos personagens de IA para adolescentes, que levará em conta as particularidades etárias dos usuários. Usuários adultos da Meta ainda podem conversar com versões virtuais de celebridades — por exemplo, Paris Hilton ou Tom Brady.

O que mudou para os adolescentes

A Meta confirmou oficialmente o fechamento temporário do acesso de menores de idade aos seus personagens de IA em todos os aplicativos — incluindo Instagram e WhatsApp. A restrição vale globalmente. Para os usuários adultos, o serviço continua funcionando como antes: é possível, por exemplo, conversar com versões virtuais de Paris Hilton ou Tom Brady. Segundo a empresa, isso não é o fim da história, mas uma pausa para criar uma versão mais adequada do produto — levando em conta as particularidades etárias dos usuários.

Como surgiram os personagens de IA da

Meta e qual era o problema

Desde o início, os personagens de IA da Meta pareciam uma tentativa de alcançar o Character.ai. A ideia era dar aos usuários a chance de conversar com alguém que parece e fala como seu ídolo. Mas os algoritmos por trás desses bots às vezes geravam conteúdo que não se encaixava nos limites de um aplicativo familiar: um interlocutor virtual podia discutir temas impróprios para um estudante ou se mostrar excessivamente insistente. O motivo é que os grandes modelos de linguagem são, por natureza, propensos a alucinações e nem sempre respeitam os filtros estabelecidos.

Por que a Meta suspendeu o acesso justamente agora

Reguladores em todo o mundo, especialmente na Europa e nos EUA, acompanham de perto como as empresas de tecnologia protegem as crianças. Isso ocorre em meio a anos de processos sobre o impacto do Instagram na autoestima dos adolescentes — outro escândalo de grande repercussão ligado à inteligência artificial é algo que a empresa não pode se dar ao luxo de enfrentar. É mais simples suspender o serviço agora e reconstruir o modelo do que pagar depois multas bilionárias e dar explicações ao Senado.

Quais dificuldades continuam sem solução

A Meta ainda não detalhou o que exatamente vai mudar na versão adolescente atualizada. Os métodos usuais de aprendizado por reforço com feedback humano nem sempre dão conta da gíria adolescente, do contexto e das tentativas de burlar o sistema por meio de pedidos de jailbreak. Criar uma IA que seja ao mesmo tempo carismática e totalmente inofensiva é uma tarefa complexa, e a empresa reconheceu que seus desenvolvimentos atuais não atingem esse padrão, optando por não arriscar sua reputação em troca de um crescimento de curto prazo nas métricas.

Ao mesmo tempo, uma versão rígida demais corre o risco de ficar sem graça: se os adolescentes perderem o interesse em conversar com os bots, eles podem migrar para outras plataformas menos controladas. Se até a Meta, com seus recursos de moderação, admite que não consegue dar conta dessa tarefa no formato atual, será ainda mais difícil para as startups desse setor.

O que exatamente a Meta suspendeu?

A Meta suspendeu o acesso de adolescentes aos seus personagens de IA em todos os seus aplicativos, incluindo Instagram e WhatsApp. A restrição vale em todo o mundo, enquanto para os usuários adultos o serviço continua funcionando como antes.

A

Meta desistiu da ideia de personagens de IA para adolescentes?

Não. A empresa declarou que não se trata de um abandono do produto, mas de uma pausa: a Meta está desenvolvendo uma versão atualizada dos personagens de IA para adolescentes, que levará em conta as particularidades etárias dos usuários.

Por que a Meta deu esse passo?

Os algoritmos por trás dos personagens de IA às vezes geravam conteúdo impróprio para um aplicativo familiar, e os grandes modelos de linguagem são, por natureza, propensos a alucinações e nem sempre respeitam os filtros estabelecidos. Isso ocorre em meio à atenção rigorosa dos reguladores na Europa e nos EUA sobre como as empresas de tecnologia protegem as crianças, e a anos de processos sobre o impacto do Instagram na autoestima dos adolescentes.

*A Meta é reconhecida como organização extremista e é proibida na Rússia.