Хабр: Машинное обучение→ original

Autora do Habr cria perfil falso no teamo e testa bots golpistas

O Habr publicou uma análise de golpes com bots e redes neurais em aplicativos de namoro. A autora criou no teamo o perfil de uma pessoa muito rica e atraente e passou a observar quem escreveria e de que forma. Ela suspeita que as maiores beneficiárias econômicas da IA sejam justamente as organizações golpistas, mas admite que não pode provar isso. Ela escolheu o aplicativo porque conhecidos e colegas recebiam ali, com mais frequência, propostas suspeitas. O experimento usa um perfil-isca no teamo, e a hipótese central é que a IA traz aos golpistas o maior retorno. Há ainda uma suspeita de vazamento de dados de usuários, mas sem nenhuma prova. • Experimento: perfil falso usado como isca no teamo. • Hipótese: a IA dá aos golpistas o maior ganho. • Sob suspeita: vazamento de dados de usuários, sem provas.

Processado por IA de Хабр: Машинное обучение; editado por Hamidun News
Autora do Habr cria perfil falso no teamo e testa bots golpistas
Fonte: Хабр: Машинное обучение. Colagem: Hamidun News.
◐ Ouvir artigo

A autora do texto no Habr montou um experimento simples. Ela criou no aplicativo de namoro teamo o perfil de uma pessoa "extremamente rica e atraente" e passou a observar quem escreveria primeiro e com qual roteiro. A ideia de partida: quem mais ganha com redes neurais não são startups nem grandes corporações, mas as organizações golpistas. A autora diz abertamente que suspeita disso, mas não consegue provar. Temos acesso apenas ao anúncio; o texto completo fica atrás de um corte ("под катом"). Por isso, abaixo analisamos o que foi declarado e o contexto em torno disso.

Como funciona o experimento

O perfil foi construído como isca. A renda alta e a aparência chamativa servem para atrair quem trabalha com roteiros prontos. Esses golpes têm como alvo tanto homens quanto mulheres, então qualquer usuário pode ser vítima.

A plataforma foi escolhida com base em observações: conhecidos e colegas da autora recebiam propostas suspeitas, na maioria das vezes, justamente do teamo. É uma amostra do círculo pessoal dela, não uma estatística da plataforma. A autora faz uma ressalva à parte: teve a sensação de que o serviço repassa dados de usuários a interessados. Ela considera isso improvável e "quer acreditar" que não seja o caso. A segunda hipótese é uma vulnerabilidade pela qual os dados vazam. Segundo ela, para profissionais não é difícil encontrar uma brecha assim. Por enquanto, as duas versões continuam sendo suposições.

Parâmetros do experimento, segundo o anúncio:

  • Plataforma: aplicativo de namoro teamo.
  • Ferramenta: perfil criado especialmente para isso, com aparência de pessoa rica e atraente.
  • Objeto de observação: bots e roteiros de golpistas, inclusive os baseados em redes neurais.
  • Hipótese principal: os golpistas têm o maior retorno econômico com a adoção de IA (não comprovada).
  • Hipótese secundária: vazamento ou repasse de dados de usuários (a autora a considera improvável).

Por que as redes neurais tornam esses golpes massivos

A seguir vem um comentário nosso, não dados do artigo. O golpe romântico sempre esbarrou no tempo humano. O operador precisa conduzir dezenas de conversas, manter a história inventada e saber a hora de pedir dinheiro. O modelo de linguagem elimina essa limitação: responde sem pausas, adapta-se ao estilo do interlocutor e não se confunde com a "biografia" do personagem. O custo de cada conversa cai, o número de conversas sobe e, com ele, sobe também a conversão.

A escala do problema já era visível sem a IA. Segundo a FTC, a agência de defesa do consumidor dos EUA, em 2022 as vítimas de golpes românticos perderam cerca de 1,3 bilhão de dólares. Se a automação preserva ao menos parte da eficácia e reduz os custos, a economia do golpe fica ainda mais atraente. Assim, a tese da autora é plausível, embora continue sendo uma hipótese sem números próprios.

O anúncio ainda não responde a algumas perguntas:

  • como a autora determinou que o interlocutor era um bot;
  • em que etapa da conversa surge o pedido de dinheiro ou a migração para um mensageiro externo;
  • quais roteiros se repetiram;
  • se há sinais técnicos de vazamento.

O valor do texto completo depende dessas respostas: uma boa análise deve mostrar conversas concretas e padrões, não apenas uma impressão geral.

Como não cair em golpes

Na prática, alguns sinais ajudam a identificar um bot.

  • Resposta rápida demais a qualquer hora do dia e estilo impecavelmente uniforme.
  • Esquiva de perguntas concretas: a resposta soa fluida, mas não diz nada.
  • Convite rápido para migrar para outro mensageiro ou para uma plataforma externa.
  • Qualquer menção a "investimentos vantajosos", serviços e aplicações financeiras.
  • Pedido de dinheiro, pagamento antecipado ou dados de cartão em qualquer etapa.

É possível verificar o interlocutor com uma busca reversa de fotos e uma videochamada curta. O vídeo já não garante autenticidade por causa dos deepfakes, mas a chamada continua sendo uma barreira para golpes em massa. Se o aplicativo pede permissões excessivas ou, após o cadastro, chegam de repente spam e e-mails suspeitos, vale se perguntar para onde os dados estão vazando. Para o próprio serviço, isso é um sinal para reforçar a moderação e o antifraude; para as equipes de segurança, é um motivo para monitorar sinais comportamentais de bots, e não apenas o texto das mensagens.

ZK
Hamidun News
Notícias de AI sem ruído. Seleção editorial diária de mais de 50 fontes. Produto de Zhemal Khamidun, Head of AI na Alpina Digital.
✦ Unified AI Workspace

Access Frontier LLMs & Multimodal AI in One Workspace

Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.

Try NomadNet AI →Launch NomadNet Agent
O que você acha?
Carregando comentários…