Hackers y estafadores están cansados del spam de AI: sus foros cerrados quedaron inundados de basura generada por AI

Los criminales cibernéticos se han enfrentado a un problema inesperado: incluso los foros cerrados y la darknet han sido inundados con contenido generado por IA. Esto ha obligado a hackers y estafadores a quejarse sobre la proliferación de redes neuronales en los lugares donde intentan discutir ciberataques y actividades ilegales.

Cuando el spam llega al submundo

El contenido generado por IA está por todas partes ahora. Las redes neuronales generan artículos, comentarios, publicaciones y mensajes de foro tan rápidamente y tan barato que las plataformas tradicionales como Reddit, Twitter e YouTube hace mucho que están saturadas con este material. Pero ahora la ola ha inundado foros cerrados especializados, donde criminales cibernéticos se reúnen para discutir sus actividades.

Las comunidades cerradas de criminales cibernéticos fueron consideradas refugios relativamente seguros durante muchos años. Hay menos agencias gubernamentales de inteligencia, mejor moderación (entre los suyos), mayor calidad promedio de información. Los miembros de tales foros discutían métodos reales de piratería, vendían datos robados, compartían mejores prácticas, sabiendo que su contenido no llegaría a extraños. Pero el spam de IA también ha llegado allí.

Cómo los precios bajos crearon un problema

• El costo de generación de texto a través de API ha caído al fondo
• Los spambots pueden programarse en horas usando modelos listos
• Barreras bajas de entrada para actores malintencionados que quieren inundar un foro
• Falta de protección especializada contra la automatización de IA en plataformas cerradas
• Crecimiento rápido de la accesibilidad de modelos de lenguaje poderosos a través de APIs

El problema es que los modelos de redes neuronales ahora son lo suficientemente baratos y simples de usar. Un spambot se puede armar en pocas horas usando OpenAI API, Claude API o modelos libremente disponibles en Hugging Face. El costo de generar 10.000 publicaciones de foro es ahora calderilla. Los spambots están inundando los foros con contenido generado—desde publicaciones sin sentido para impulsar contadores de actividad hasta esquemas más sofisticados donde un bot de IA imita a un miembro experimentado para construir reputación y luego vender una cuenta comprometida.

En este momento, esto es incluso más barato y efectivo que contratar personas para realizar la misma tarea.

La paradoja de la tecnología

Hay cierta ironía en esta situación. La comunidad de criminales cibernéticos, que utiliza activamente la tecnología y la automatización para sus propios fines, ahora sufre las consecuencias del desarrollo de tecnologías completamente diferentes. Los hackers fueron entre los primeros adoptantes de automatización, bots, scripts y soluciones de IA. Pero nadie esperaba que esta ola se volviera contra ellos.

Históricamente, los foros de criminales cibernéticos estaban varios pasos adelante de Internet convencional en términos de soluciones tecnológicas. Implementaron encriptación, anonimato y descentralización antes de que estos conceptos se hicieran populares. Pero el spam de IA es un problema que escala mucho más rápido de lo que cualquier moderación tradicional puede manejar.

"Ni siquiera en internet underground hay paz," se quejan así los

miembros de foros cerrados.

Lo que esto significa

La propagación del contenido generado por IA ya ha alcanzado una escala donde afecta incluso a los nichos que están tratando al máximo de esconderse de ella. Esta es una señal elocuente de que el problema de la calidad de la información y el control de contenido ya no es una tarea separada de las grandes plataformas tecnológicas, sino una realidad global que afecta literalmente a todos.

Los criminales cibernéticos se ven obligados a buscar nuevas formas de protegerse de la automatización de IA, tal como lo hacen los usuarios comunes y las organizaciones. La ironía es que pueden usar las mismas herramientas que sus enemigos: modelos más avanzados de detección de IA, nuevos métodos de verificación de usuarios, arquitecturas descentralizadas. Pero este es un problema que claramente no esperaban tener que resolver.