Reino Unido ampliará la búsqueda de vulnerabilidades con IA: 407 fallos por £13 000

El Gobierno del Reino Unido ampliará el programa en el que modelos de IA de frontera buscan vulnerabilidades en los sistemas del propio Estado. El piloto detectó 407 puntos débiles en nueve organismos gubernamentales en un mes. El gasto en tokens fue de unas £13 000. Además de ampliar el programa, las autoridades estudiarán medidas legislativas: la notificación obligatoria de incidentes de IA y la regulación del riesgo de pérdida de control sobre los sistemas de IA.

Qué mostró el piloto

Las cifras del piloto son fáciles de recalcular. £13 000 entre 407 hallazgos equivalen a unas £32 por vulnerabilidad. Por cada uno de los nueve organismos salen, de media, unos 45 hallazgos y en torno a £1 440 de gasto. En el panorama informático del sector público, donde una revisión de seguridad suele medirse en días-persona, es un coste de entrada muy bajo.

Hacen falta matices. En el fragmento disponible del material no se revela qué modelos se usaron ni cómo se distribuyeron los hallazgos por criticidad. Tampoco se sabe cuántos de ellos confirmaron los ingenieros. El coste medio no es comparable con el precio de una vulnerabilidad crítica. Entre los 407 registros, una parte son con seguridad fallos menores de configuración. Aun así, la escala demuestra que los modelos sirven para un primer escaneo amplio.

Las dos partes del paquete

El paquete de medidas consta de dos decisiones de naturaleza distinta.

La primera es operativa: ampliar el programa. El Estado convierte el experimento en una herramienta de trabajo y dirige los modelos de frontera hacia sus propios sistemas. Es la vía más directa para comprobar de qué es capaz la tecnología antes de que otro la utilice.

La segunda es regulatoria, y su redacción es más suave. Las autoridades «estudiarán» legislar sobre la notificación de incidentes de IA y sobre el riesgo de pérdida de control. Por ahora no hay obligaciones, solo la intención de analizar el asunto. Pero se ha incluido en el mismo paquete que la ciberseguridad. La lógica se entiende: si un modelo puede encontrar brechas en los sistemas públicos, los fallos de los propios modelos también deberían entrar en el radar del regulador. La experiencia de otros sectores, como la notificación obligatoria de ciberincidentes, indica que sin un formato único de reporte no se puede reunir estadística.

La economía de la defensa

La principal conclusión del piloto es económica. Si encontrar vulnerabilidades cuesta decenas de libras por hallazgo, el mismo cálculo vale para los atacantes. El acceso a los modelos de frontera no es un privilegio del Estado; por tanto, la ventana entre la aparición de una brecha y su explotación se estrecha para todos. A la defensa solo le queda una opción: buscar antes y más barato que el adversario.

Parámetros clave del piloto:

• 407 vulnerabilidades encontradas en un mes;
• 9 organismos públicos en la muestra;
• unas £13 000 de gasto en tokens;
• unas £32 por hallazgo;
• de media, 45 hallazgos por organismo.

Qué deberían hacer los equipos de seguridad

Los equipos de seguridad, públicos y corporativos, deberían repetir el cálculo con sus propios datos. Para ello conviene tomar un perímetro acotado y un mes de plazo, y medir tres cosas: la proporción de hallazgos confirmados, el coste de verificar cada uno y la proporción de falsos positivos. Lo más probable es que la principal partida de gasto sea la verificación, y no los tokens.

En segundo lugar, conviene definir con antelación cómo registrar los incidentes en los que intervienen sistemas de IA. Si la notificación se vuelve obligatoria en el Reino Unido, las empresas que ya tengan un formato de registro de fallos perderán menos tiempo en adaptarse. En tercer lugar, hay que seguir la redacción del futuro proyecto de ley sobre pérdida de control. Todavía no está claro qué sistemas entrarán en su ámbito ni qué umbrales definirán a los modelos «de frontera». De la respuesta a esa pregunta depende si la regulación afectará solo a los laboratorios o también a quienes integran sus modelos en productos.