Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarTechCrunch→ original

Agente Muse da Meta mistura conversas de outros usuários e mostra saldos bancários a funcionários

O agente Muse, lançado pela Meta em setembro, mistura conversas de contas diferentes, segundo a Reuters. Funcionários da empresa escreveram em posts internos que o agente enviava mensagens sobre pedidos e conselhos de carreira que eles não tinham solicitado. Para um deles, no meio de uma conversa sobre o tempo, o agente listou saldos de contas bancárias de US$ 2.722,58 e US$ 5.899,57. A lição para quem cria agentes é que o isolamento de dados entre usuários precisa ser testado com o mesmo rigor que as permissões de acesso.

Processado por IA de TechCrunch; editado por Hamidun News
Agente Muse da Meta mistura conversas de outros usuários e mostra saldos bancários a funcionários
Fonte: TechCrunch. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalTechCrunch ↗
Editor-chefe
Dado-chave #1O Muse foi lançado em setembro e já soma mais de 10 milhões de downloads
Dado-chave #2Uma funcionária foi lembrada pelo agente de responder à irmã no Signal, mesmo sem ter dado acesso a isso
Dado-chave #3A Meta ainda não respondeu ao pedido de comentário da TechCrunch, e a causa da falha não foi revelada

Imagine perguntar a um assistente sobre o tempo e as marés, e ele acrescentar no fim: "Aliás, na sua conta da Capital One há US$ 2.722,58, e na Charles Schwab, US$ 5.899,57". O problema é que essas contas não são suas. Foi exatamente essa situação que um funcionário da Meta descreveu em um post interno, citado pela Reuters. O caso envolve o agente de IA Muse, que a empresa lançou em setembro.

O que aconteceu

A Reuters analisou mensagens internas de funcionários da Meta. Eles reclamavam que o Muse misturava conversas de contas diferentes e exibia dados pessoais alheios. Segundo os relatos, o agente enviava mensagens sobre pedidos de babá que ninguém havia feito. Oferecia conselhos de carreira que ninguém pedira e informava compras de produtos que os usuários não tinham realizado. Também mencionava saldos de contas bancárias que não pertenciam àquelas pessoas.

O caso mais ilustrativo é o da conversa sobre o tempo e as marés. No meio de uma resposta comum, o Muse acrescentou "BTW, two bank updates" e listou dois saldos. Outra funcionária usava o agente no celular pessoal. O Muse a lembrou de responder à irmã no Signal, aplicativo de mensagens popular com criptografia de ponta a ponta. Ela escreveu no post que isso parecia uma violação grave de privacidade. Segundo ela, certamente não tinha dado ao agente acesso a outros aplicativos e não se lembrava de ter sido consultada sobre isso.

Vale separar duas questões. A primeira é de quem eram os dados, ou seja, se estavam vazando entre pessoas diferentes. A segunda é a que acesso o agente tem no dispositivo. Pela publicação, fica claro que os funcionários viram em seus chats informações que não lhes pertenciam. O que deu errado dentro do Muse não foi informado. A Meta ainda não respondeu ao pedido de comentário da TechCrunch, por isso qualquer conclusão sobre as causas continua sendo especulação.

Por que isso importa

O Muse está entre os aplicativos de crescimento mais rápido da história: segundo a TechCrunch, ele já tem mais de 10 milhões de downloads. Enquanto o agente era um brinquedo para entusiastas, falhas assim seriam apenas curiosidades. Agora, mensagens, pedidos e informações financeiras de milhões de pessoas passam por ele. Qualquer erro na separação de contextos vira vazamento de dados pessoais.

Agentes se diferenciam dos chatbots comuns porque têm memória e acesso a serviços externos, como e-mail, mensageiros e notificações bancárias. Quanto mais fontes conectadas, maior o custo de um erro. Um chatbot comum, ao falhar, apenas responde algo fora de contexto. Já um agente com acesso a várias fontes pode trazer para a conversa um e-mail ou um saldo de outra pessoa.

Há ainda a questão do consentimento. O relato da funcionária de que não se lembra de ter pedido acesso a outros aplicativos mostra um problema de interface. Mesmo que a permissão tenha sido tecnicamente concedida, a pessoa precisa entender o que o agente lê e quando.

O que fazer para quem constrói agentes

Desse caso saem algumas lições práticas. São regras gerais de engenharia, não uma análise do funcionamento interno do Muse.

  • Separe memória e contexto dos usuários na camada de armazenamento, e não apenas no prompt. Não se deve confiar ao modelo a tarefa de "não mostrar o que é de outra pessoa".
  • Verifique a origem de cada fato antes que o agente o inclua na resposta. Os dados precisam estar vinculados a uma conta específica, e cada chamada a uma ferramenta deve carregar o identificador dessa conta.
  • Teste vazamentos entre contas de forma separada: crie vários perfis de teste com marcas únicas nos dados e verifique se essas marcas aparecem nos perfis vizinhos.
  • Peça acesso a fontes sensíveis de forma explícita e em linguagem clara, e não exiba dados financeiros sem um pedido direto do usuário.
  • Prepare um processo de resposta a incidentes antes de precisar dele: registros, desligamento rápido do recurso e comunicação aos usuários afetados.

A Meta provavelmente terá de explicar publicamente como essas falhas aconteceram e quantos usuários comuns foram afetados. Até agora, as mensagens dos funcionários mostram apenas que a empresa se deparou com o problema nos próprios dispositivos internos. O recado para o setor é direto: quanto mais rápido um agente cresce, mais caro sai um isolamento de dados mal feito.

História

Perguntas frequentes sobre a notícia

O que aconteceu?

A Reuters analisou mensagens internas de funcionários da Meta. Eles reclamavam que o Muse misturava conversas de contas diferentes e exibia dados pessoais alheios. Segundo os relatos, o agente enviava mensagens sobre pedidos de babá que ninguém havia feito. Oferecia conselhos de carreira que ninguém pedira e informava compras de produtos que os usuários não tinham realizado. Também mencionava saldos de contas bancárias que não pertenciam àquelas pessoas.

Por que isso importa?

O Muse está entre os aplicativos de crescimento mais rápido da história: segundo a TechCrunch, ele já tem mais de 10 milhões de downloads. Enquanto o agente era um brinquedo para entusiastas, falhas assim seriam apenas curiosidades. Agora, mensagens, pedidos e informações financeiras de milhões de pessoas passam por ele. Qualquer erro na separação de contextos vira vazamento de dados pessoais.

O que fazer para quem constrói agentes?

Desse caso saem algumas lições práticas. São regras gerais de engenharia, não uma análise do funcionamento interno do Muse. Separe memória e contexto dos usuários na camada de armazenamento, e não apenas no prompt. Não se deve confiar ao modelo a tarefa de "não mostrar o que é de outra pessoa". Verifique a origem de cada fato antes que o agente o inclua na resposta. Os dados precisam estar vinculados a uma conta específica, e cada chamada a uma ferramenta deve carregar o identificador dessa conta.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…