Hackers e golpistas cansaram do spam de IA: lixo inunda seus fóruns fechados

Cibercriminosos toparam com um problema inesperado: uma onda de conteúdo gerado por IA tomou até os fóruns fechados e a dark web. Hackers e golpistas agora reclamam do excesso de redes neurais nos lugares onde tentam discutir ciberataques e atividades ilegais.

Quando o spam chega ao submundo

O conteúdo de IA já está em todo lugar. Redes neurais geram artigos, comentários, posts e mensagens de fórum tão rápido e a um custo tão baixo que plataformas tradicionais como Reddit, Twitter e YouTube já estão saturadas desse material há tempos. Agora a onda chegou também aos fóruns fechados especializados, onde cibercriminosos se reúnem para discutir suas atividades.

Por muitos anos, as comunidades fechadas de cibercriminosos foram vistas como um refúgio relativamente seguro. Há menos agências de inteligência estatais, a moderação é melhor (entre os próprios membros) e o nível médio de qualidade da informação é mais alto. Os membros desses fóruns discutiam métodos reais de invasão, vendiam dados roubados e trocavam boas práticas, certos de que o conteúdo não chegaria a estranhos. Mas o spam de IA chegou lá também.

Como o preço baixo criou o problema

• O custo de gerar texto via API despencou
• Spambots podem ser programados em horas com modelos prontos
• Barreiras de entrada baixas para malfeitores que querem entupir um fórum
• Falta de proteção especializada contra automação por IA em plataformas fechadas
• Crescimento rápido da disponibilidade de modelos de linguagem poderosos via API

O problema é que os modelos de redes neurais agora são baratos e simples o bastante. Dá para montar um spambot em poucas horas usando a API da OpenAI, a API do Claude ou modelos de acesso livre no Hugging Face. Gerar 10 000 mensagens de fórum agora custa uns trocados. Os spambots começam a inundar os fóruns com conteúdo gerado, de posts sem sentido para inflar o contador de atividade a esquemas mais sofisticados, em que um bot de IA imita um membro experiente para ganhar reputação e depois vender a conta hackeada. No momento, isso é até mais barato e eficaz do que contratar pessoas para a mesma tarefa.

O paradoxo da tecnologia

Há uma certa ironia nessa situação. A comunidade cibercriminosa, que usa ativamente tecnologia e automação para seus fins, agora sofre as consequências do avanço de tecnologias bem diferentes. Hackers estiveram entre os primeiros adeptos da automação, de bots, scripts e soluções de IA. Mas ninguém esperava que essa onda se voltasse contra eles.

Historicamente, os fóruns de cibercriminosos estavam alguns passos à frente da internet comum em soluções tecnológicas. Adotaram criptografia, anonimato e descentralização antes de esses conceitos se popularizarem. Mas o spam de IA é um problema que escala bem mais rápido do que qualquer moderação tradicional consegue acompanhar.

"Nem na internet subterrânea há mais sossego", reclamam nesse tom

membros ativos dos fóruns fechados.

O que isso significa

A disseminação do conteúdo de IA já atingiu uma escala em que afeta até os nichos que mais tentam se esconder dela. É um sinal eloquente de que a qualidade da informação e o controle de conteúdo deixaram de ser tarefa só das grandes plataformas de tecnologia e viraram uma realidade global, que toca literalmente todo mundo.

Cibercriminosos são forçados a buscar novas formas de se proteger da automação por IA, assim como fazem usuários comuns e organizações. A ironia é que eles podem usar as mesmas ferramentas de seus inimigos: modelos de detecção de IA mais avançados, novos métodos de verificação de usuários, arquiteturas descentralizadas. Mas é um problema que eles claramente não esperavam ter de resolver.