Los proyectos antifraude enseñan a bots de IA a hacerse pasar por víctimas y agotar a los estafadores

Los estafadores llevan años llamando con guiones y confían en que al otro lado haya una persona real y desconcertada. Ahora, cada vez más a menudo, lo que responde es una red neuronal. Las iniciativas antifraude conectan bots de IA con voz y forma de hablar realistas para que los delincuentes los tomen por víctimas auténticas. Uno de los primeros ejemplos más conocidos es Daisy, de Virgin Media O2: una «abuelita» que, según el operador, mantiene al interlocutor en la línea hasta 40 minutos. Cada uno de esos minutos es tiempo perdido para el estafador y, para los defensores, se convierte en datos.

Cómo funciona la trampa

El esquema típico de este señuelo se compone de tres bloques: reconocimiento de voz, un modelo de lenguaje y síntesis de voz. Al modelo se le asigna un papel, por ejemplo el de una persona mayor, habladora y algo despistada. No se niega de inmediato ni acepta de inmediato. El bot pide que le repitan las cosas, se confunde con las cifras, se pone a hablar de sus nietos y de su gato, «busca la tarjeta» y «no encuentra las gafas». El objetivo no es ganar la discusión, sino que la conversación dure lo máximo posible y resulte convincente.

La principal ventaja frente a un voluntario humano es que el bot no se cansa ni se irrita. Tampoco se delata con emociones, que cuestan de disimular en el minuto cincuenta de un diálogo sin sentido. Una persona no puede hacerlo.

Quién ya lo está haciendo

La idea no es nueva, pero los modelos de lenguaje la han vuelto barata y escalable. A continuación se enumeran los proyectos de los que hay información en fuentes abiertas. Conviene contrastar las cifras concretas de cada uno con las fuentes originales.

• Daisy (Virgin Media O2, Reino Unido): una «abuelita» de IA con voz que, según el operador, retiene a los estafadores hasta 40 minutos.
• Apate (Macquarie University, Australia): proyecto de investigación con personajes de IA que responden a las llamadas y los mensajes de los estafadores.
• Re:scam (Netsafe, Nueva Zelanda): el usuario reenvía un correo sospechoso y el bot mantiene con el remitente una correspondencia en nombre de la «víctima».
• Jolly Roger Telephone Company (EE. UU.): servicio de pago con bots contra telemarketers y llamadas fraudulentas.

Todos comparten una misma métrica: la duración del contacto. Cuanto mayor es, más cara le sale la ofensiva al atacante. La segunda métrica es la calidad de los datos recopilados: números, nombres de «bancos», escenarios y datos para las transferencias.

Economía y limitaciones

Un centro de llamadas fraudulento depende de un recurso caro: el tiempo de sus operadores. Un bot que mantiene cientos de conversaciones en paralelo al coste de la computación rompe esa economía. El estafador no puede darse cuenta con rapidez de que está perdiendo el tiempo, hasta que salta su propio filtro.

El enfoque tiene puntos débiles. Primero, los propios delincuentes usan IA generativa, de modo que en algunos casos un bot habla con otro bot y el beneficio de alargar la conversación disminuye. Segundo, el operador al otro lado puede no ser un delincuente voluntario: en los esquemas del sudeste asiático suelen trabajar personas llevadas allí por la fuerza. Agotar a esos «empleados» plantea más dilemas éticos que golpear a los organizadores. Tercero, siguen abiertas las cuestiones legales: la grabación de conversaciones, el almacenamiento de voces y datos, y los falsos positivos con personas reales.

Qué hacer en la práctica

Para el usuario común, estas trampas no sustituyen la higiene básica. Si le llaman «del banco» o «de la policía», cuelgue y vuelva a llamar al número oficial. Conviene reenviar los correos y mensajes sospechosos a los servicios especializados de su país, si existen: parte de ellos alimentan precisamente este tipo de sistemas.

Los operadores de telecomunicaciones y los bancos deberían considerar los señuelos como una fuente de inteligencia sobre amenazas. Los números, los escenarios y las carteras que reúnen los bots pueden pasarse con rapidez a bloqueos y reglas antifraude. Los equipos de seguridad harían bien en definir las reglas de antemano: qué puede decir el bot, qué datos almacenar y cuándo entregar el material a las fuerzas del orden. Sin eso, la trampa se convertirá enseguida en un problema legal para su propietario.