Hackers e golpistas estão cansados do spam de AI: seus fóruns fechados foram inundados por lixo gerado por AI

Criminosos cibernéticos enfrentaram um problema inesperado: até fóruns fechados e a darknet foram inundados com conteúdo gerado por IA. Isso forçou hackers e estelionatários a reclamarem sobre o excesso de redes neurais em locais onde tentam discutir ataques cibernéticos e atividades ilegais.

Quando o spam alcança o submundo

Conteúdo gerado por IA está em todo lugar agora. Redes neurais geram artigos, comentários, posts e mensagens de fórum tão rapidamente e tão barato que plataformas tradicionais como Reddit, Twitter e YouTube estão há muito tempo saturadas com esse material. Mas agora a onda inundou fóruns fechados especializados, onde criminosos cibernéticos se reúnem para discutir suas atividades.

Comunidades fechadas de criminosos cibernéticos foram consideradas refúgios relativamente seguros por longos anos. Há menos agências governamentais de inteligência, melhor moderação (entre os seus), qualidade média de informação mais alta. Membros de tais fóruns discutiam métodos reais de invasão, vendiam dados roubados, compartilhavam melhores práticas, sabendo que seu conteúdo não chegaria a estranhos. Mas o spam de IA chegou lá também.

Como preços baixos criaram um problema

• Custo de geração de texto via API caiu para o fundo
• Spambots podem ser programados em horas usando modelos prontos
• Baixas barreiras de entrada para atores maliciosos que querem inundar um fórum
• Falta de proteção especializada contra automação de IA em plataformas fechadas
• Crescimento rápido da acessibilidade de modelos de linguagem poderosos através de APIs

O problema é que os modelos de redes neurais agora são baratos o suficiente e simples de usar. Um spambot pode ser montado em poucas horas usando a OpenAI API, Claude API ou modelos livremente disponíveis no Hugging Face. O custo de gerar 10.000 posts de fórum é agora uma ninharia. Spambots estão inundando fóruns com conteúdo gerado—desde posts sem sentido para impulsionar contadores de atividade até esquemas mais sofisticados onde um bot de IA imita um membro experiente para ganhar reputação e depois vender uma conta comprometida.

No momento, isto é até mais barato e eficaz do que contratar pessoas para realizar a mesma tarefa.

O paradoxo da tecnologia

Há uma certa ironia nesta situação. A comunidade de criminosos cibernéticos, que ativamente usa tecnologia e automação para seus próprios propósitos, agora sofre com as consequências do desenvolvimento de tecnologias completamente diferentes. Hackers foram entre os primeiros adeptos de automação, bots, scripts e soluções de IA. Mas ninguém esperava que essa onda se voltasse contra eles.

Historicamente, fóruns de criminosos cibernéticos estavam vários passos à frente da internet convencional em termos de soluções tecnológicas. Eles implementaram criptografia, anonimato e descentralização antes desses conceitos se tornarem populares. Mas spam de IA é um problema que escala muito mais rápido do que qualquer moderação tradicional consegue lidar.

"Nem mesmo na internet underground há mais paz," é assim que membros

de fóruns fechados reclamam.

O que isso significa

A disseminação de conteúdo gerado por IA já atingiu uma escala onde afeta até mesmo os nichos que estão tentando ao máximo se esconder disso. Este é um sinal eloquente de que o problema da qualidade da informação e controle de conteúdo não é mais uma tarefa separada das grandes plataformas tecnológicas, mas uma realidade global que afeta literalmente a todos.

Criminosos cibernéticos são forçados a buscar novas maneiras de se proteger da automação de IA, assim como fazem usuários comuns e organizações. A ironia é que eles podem usar as mesmas ferramentas que seus inimigos: modelos mais avançados de detecção de IA, novos métodos de verificação de usuários, arquiteturas descentralizadas. Mas este é um problema que eles claramente não esperavam ter que resolver.