Projetos antifraude ensinam bots de IA a se passar por vítimas e esgotar golpistas

Golpistas ligam há anos seguindo scripts, na expectativa de que do outro lado esteja uma pessoa de carne e osso, confusa e vulnerável. Agora, cada vez mais, quem atende é uma rede neural. Iniciativas antifraude estão colocando bots de IA com voz e jeito de falar realistas para que os criminosos os tomem por vítimas de verdade. Um dos primeiros exemplos mais conhecidos é a Daisy, da Virgin Media O2: uma "vovó" que, segundo a operadora, mantém o interlocutor na linha por até 40 minutos. Cada um desses minutos é perdido para o golpista e se transforma em dados para os defensores.

Como funciona a armadilha

O esquema típico dessa isca tem três blocos: reconhecimento de fala, um modelo de linguagem e síntese de voz. O modelo recebe um papel, por exemplo o de uma pessoa idosa, tagarela e um pouco distraída. Ele não recusa de imediato nem concorda de imediato. O bot pede para repetir, confunde números, desvia para histórias sobre os netos e o gato, "procura o cartão" e "não acha os óculos". O objetivo não é ganhar a discussão, e sim fazer a conversa durar o máximo possível e parecer convincente.

A principal vantagem sobre um voluntário humano é que o bot não se cansa nem perde a paciência. Ele também não se entrega por emoções, que são difíceis de esconder no 50º minuto de um diálogo sem sentido. Uma pessoa não consegue fazer isso.

Quem já faz isso

A ideia não é nova, mas os modelos de linguagem a tornaram barata e escalável. A seguir, os projetos conhecidos por fontes abertas. Os números específicos de cada um devem ser conferidos nas fontes originais.

• Daisy (Virgin Media O2, Reino Unido): "vovó" de IA com voz que, segundo a operadora, mantém golpistas na linha por até 40 minutos.
• Apate (Macquarie University, Austrália): projeto de pesquisa com personagens de IA que atendem ligações e respondem a mensagens de golpistas.
• Re:scam (Netsafe, Nova Zelândia): o usuário encaminha um e-mail suspeito, e o bot troca mensagens com o remetente em nome da "vítima".
• Jolly Roger Telephone Company (EUA): serviço pago com bots contra telemarketing e ligações fraudulentas.

Todos usam a mesma métrica principal: a duração do contato. Quanto maior ela for, mais cara fica a ação para o golpista. A segunda métrica é a qualidade dos dados coletados: números de telefone, nomes de "bancos", roteiros e dados para transferências.

Economia e limitações

Um call center de golpes depende de um recurso caro: o tempo dos operadores. Um bot que conduz centenas de conversas em paralelo pelo custo de processamento quebra essa conta. O golpista não consegue perceber rapidamente que está perdendo tempo, a menos que o próprio filtro dele dispare.

A abordagem tem pontos fracos. Primeiro, os próprios criminosos usam IA generativa, então em alguns casos um bot conversa com outro bot, e o benefício de prolongar a conversa diminui. Segundo, o operador do outro lado pode não ser um criminoso voluntário: nos esquemas do Sudeste Asiático, muitas vezes trabalham pessoas levadas à força. Esgotar esses "funcionários" é eticamente mais complicado do que atingir os organizadores. Terceiro, restam questões jurídicas: gravação de conversas, armazenamento de vozes e dados e acionamentos indevidos contra pessoas reais.

O que fazer na prática

Para o usuário comum, as armadilhas não substituem a higiene básica de segurança. Se alguém ligar "do banco" ou "da polícia", encerre a chamada e ligue de volta para o número oficial. Vale encaminhar e-mails e mensagens suspeitos aos serviços especializados do seu país, se existirem: parte deles alimenta justamente esse tipo de sistema.

Operadoras de telecomunicações e bancos devem tratar as iscas como fonte de inteligência sobre ameaças. Números, roteiros e carteiras coletados pelos bots podem ser repassados rapidamente para bloqueios e regras antifraude. As equipes de segurança fariam bem em definir regras com antecedência: o que o bot pode dizer, quais dados armazenar e quando entregar o material às autoridades. Sem isso, a armadilha logo se torna um problema jurídico para o próprio dono.