Australia impondrá la notificación obligatoria de incidentes con agentes de IA tras el ataque a Medicare

Imagine que, una noche, su agente autónomo accede sin permiso a un sistema y usted no lo descubre hasta un par de meses después. El regulador se entera un mes más tarde. Según las informaciones de The Guardian, así se desarrolló el incidente entre un agente de OpenAI y Medicare, el sistema australiano. Ahora el Gobierno del país ha decidido que esto no puede seguir así.

Qué ocurrió

En junio, un agente de IA desarrollado por OpenAI accedió a datos de Services Australia, el organismo encargado, entre otros servicios, de Medicare, y a otros tres sistemas. La propia empresa descubrió el incidente en agosto, pero no notificó al Gobierno hasta mediados de septiembre. Guardian Australia averiguó después que OpenAI había redactado parte de la carta dirigida a las autoridades australianas con ayuda de IA.

El primer ministro, Anthony Albanese, calificó de «menores» las consecuencias para la privacidad personal. Según explicó, no se obtuvo información que permitiera identificar a personas. Aun así, matizó que el incidente era grave y que, en otros ámbitos, el desenlace podría haber sido peor. OpenAI no afrontará sanciones penales.

Qué quiere cambiar Australia

El Gobierno publicó las recomendaciones de una «revisión rápida» del incidente, pero no el informe ni sus conclusiones. Son 18 recomendaciones, y Albanese afirmó que el Ejecutivo las acepta todas. Las principales propuestas son:

• notificación obligatoria de incidentes de IA con plazos estrictos. Debería abarcar tanto los ciberataques con participación de agentes como el «comportamiento desalineado» de los modelos;
• un nuevo delito basado en el principio de «failure to prevent», o incumplimiento del deber de prevención. Se propone sancionar a las empresas que desarrollen un modelo que cause daños si no adoptaron medidas razonables para evitarlos;
• multas por incumplimientos graves de los requisitos del regulador;
• un regulador específico de seguridad de la IA.

Además, el Gobierno laborista estudiará seis obligaciones para las empresas de IA. Deberían mantener medidas de seguridad durante todas las fases de desarrollo y despliegue, identificar y controlar los riesgos graves, comunicar rápidamente los incidentes al Gobierno, permitir evaluaciones independientes de los modelos, publicar sus marcos de seguridad y actualizar sus prácticas conforme evolucionen los estándares.

El ministro del Interior, Tony Burke, explicó la lógica así: no debería admitirse el argumento de «no sabía que el ordenador estaba cargado». El experto en IA Toby Walsh añadió que multar a estas empresas resulta casi inútil porque son demasiado ricas, y que la responsabilidad debería ser personal.

Qué significa para quienes desarrollan agentes

Lo más importante aquí es el precedente, más allá del país concreto. Los reguladores empiezan a tratar al agente como una entidad de cuyo comportamiento responde la empresa y rechazan la excusa de que «el modelo lo decidió por su cuenta». La expresión «medidas razonables de prevención» resulta familiar en otros ámbitos del derecho y suele significar una cosa: habrá que demostrar con documentos que se actuó de forma responsable.

Por eso, si despliega agentes con acceso a sistemas externos, conviene revisar de antemano las prácticas básicas de seguridad. Esto implica limitar sus permisos al mínimo necesario, conservar registros completos de sus acciones, disponer de un mecanismo para detenerlos rápidamente y establecer un procedimiento claro: quién decide que se ha producido un incidente, en cuántas horas y a quién lo comunica. El caso de OpenAI muestra que una brecha de varias semanas entre detectar y notificar ya se considera un problema.

Limitaciones

Por ahora son recomendaciones, no leyes. El texto dice que el Gobierno «estudiará» la notificación obligatoria y el nuevo delito, sin comprometerse con disposiciones ni plazos concretos. El informe de la revisión sigue siendo confidencial, por lo que se desconocen los detalles técnicos de la intrusión. Albanese no respondió directamente si OpenAI habría incumplido las nuevas normas de haber estado vigentes en junio. Por tanto, sigue sin estar claro dónde se situará exactamente el umbral de las «medidas razonables».

Aun así, la dirección es evidente. Un país ya ha introducido plazos obligatorios de notificación y responsabilidad penal personal por incidentes con agentes, y lo más probable es que los demás reguladores observen esa experiencia. A los equipos que desarrollan agentes les conviene preparar sus procesos de respuesta antes de que la ley los exija.