Google DeepMind y Singapur lanzan una Gemma contra las estafas: pérdidas de S$4 mil millones

Las estafas ocupan en Singapur más de la mitad de todos los delitos registrados, y las pérdidas acumuladas desde 2019 superan los S$4 mil millones. Google DeepMind y la Government Technology Agency of Singapore (GovTech) presentaron en Singapore International Cyber Week 2026 su respuesta: un modelo de detección de conversaciones fraudulentas que funciona íntegramente en el smartphone. Su base es una versión ligera de Gemma, afinada con escenarios de engaño locales. El proyecto surgió de la alianza nacional entre DeepMind y el Gobierno de Singapur.

Por qué los filtros en servidor chocan con un muro

Los esquemas han cambiado. El phishing simple ha dado paso a la ingeniería social: a la víctima se la trabaja durante tiempo con una conversación convincente y solo después se le pide dinero. Según los autores del proyecto, estos escenarios concentran hasta el 80% de todas las pérdidas. Detectarlos por un enlace o por la plantilla de un correo es difícil, porque puede que en la conversación no haya ningún enlace malicioso.

El segundo problema es el cifrado. La protección clásica escanea los mensajes en el servidor, pero muchos mensajeros usan cifrado de extremo a extremo y la plataforma sencillamente no ve el contenido de los chats. El tercero es el contexto local. Los modelos de propósito general reconocen peor las suplantaciones de organismos públicos y bancos singapurenses y de personas conocidas del país, así como los esquemas regionales, que aparecen y desaparecen con rapidez.

La solución del equipo: trasladar el análisis al dispositivo. La conversación se queda en manos del usuario, y la advertencia aparece antes de que la persona envíe dinero o datos de acceso.

Cómo funciona el pipeline de dos etapas

Ejecutar un clasificador complejo en un teléfono corriente supone librar una batalla por la batería. Por eso el sistema se divide en dos fases. Primero, un clasificador ligero de consumo mínimo revisa los mensajes entrantes; su tarea es detectar una posible amenaza. Si surge una sospecha, entra la segunda etapa: la Gemma afinada evalúa un fragmento mayor de la conversación y, o bien confirma la amenaza, o bien descarta la alarma. Este esquema también sirve para combatir los falsos positivos: una conversación cotidiana en la que alguien pide dinero prestado no debe parecer un ataque.

Cuando se confirma la amenaza, el modelo muestra una advertencia directamente en la pantalla, con el consejo de detenerse y no compartir información sensible ni fondos. Para el entrenamiento se emplearon diálogos reales en su estructura: imitaciones de organismos públicos, bancos, figuras públicas locales y esquemas regionales actuales.

Parámetros clave del proyecto:

• Base: Gemma, el modelo ligero de Google DeepMind, afinado con escenarios locales de fraude.
• Dónde funciona: en el smartphone; el análisis de las conversaciones no requiere enviar datos a la nube.
• Etapa 1: clasificador ligero de mensajes entrantes con bajo consumo energético.
• Etapa 2: evaluación contextual de un fragmento más amplio de la conversación por parte de la Gemma afinada.
• Entorno de entrenamiento: entorno gestionado de GovTech en GCP, con los datos aislados.
• Datos: conjuntos anonimizados a partir de denuncias de fraude y flujos de inteligencia, sin datos personales de los ciudadanos.
• Validación: diálogos sintéticos y corpus locales que cubren distintas categorías de esquemas y suplantaciones.
• No se ha revelado: el tamaño del modelo, la precisión, la proporción de falsos positivos ni la lista de dispositivos compatibles.

Gestión de datos y limitaciones

Los autores subrayan por separado la disciplina aplicada durante el desarrollo. El ajuste se realizó en un «sandbox soberano», un entorno de GovTech que la propia agencia mantiene. De la muestra de entrenamiento se excluyó cualquier información privada o personalmente identificable. La resistencia a técnicas nuevas se comprobó con diálogos sintéticos que imitan las tácticas cambiantes de suplantación de identidad.

Mark Chen, director de confianza y seguridad de GovTech, plantea el objetivo así: detectar en tiempo real los intentos de engaño locales y dirigidos, sin vulnerar la privacidad de las conversaciones.

A quién le sirve y qué falta

El proyecto está pensado como modelo para mensajeros y fabricantes de sistemas operativos: pueden integrar modelos ligeros como este y proteger a los usuarios en local, sin romper el cifrado de extremo a extremo. Para bancos y reguladores de otros países, es una plantilla viable: un modelo nacional entrenado con datos locales más análisis en el lado del cliente.

Pero la publicación deja preguntas sin respuesta, y sin ellas no se puede evaluar su eficacia real. No hay cifras de precisión ni de cobertura de detección, ni datos sobre falsos positivos en conversaciones reales ni sobre el consumo de batería medido en horas. Tampoco se describe cómo se integrará exactamente la herramienta en aplicaciones concretas ni quién actualizará el modelo cuando cambien los esquemas de los estafadores. Por ahora es una demostración del enfoque, no un producto listo para un despliegue masivo. Conviene seguir qué plataforma será la primera en integrar el modelo y en publicar mediciones independientes.