Balance de 2025 en seguridad de la IA: de las puertas traseras a las amenazas de los agentes

Balance de 2025 en seguridad de la IA: de las puertas traseras a las amenazas de los agentes

A principios de 2026, destacados investigadores rusos en seguridad de la inteligencia artificial se reunieron para repasar el año anterior y debatir sus tendencias clave. Entre los expertos estaban Artem Semenov (PWN AI), Boris Zakhir (Boris_ь с ml), Evgeni Kokuikin (HiveTrace, Evgeni Kokuikin - Raft) y Vladislav Tushkanov (llm security, kalany). Compartieron sus observaciones sobre la rápida transformación de la industria.

El debate se centró en la ineficacia de los mecanismos de defensa tradicionales y en la creciente sofisticación de los ataques contra sistemas de IA. Prestaron especial atención a nuevos tipos de amenazas, como las puertas traseras LoRA, y a los desafíos cada vez mayores para controlar a los agentes de IA autónomos. La principal conclusión de los participantes es que la seguridad absoluta en IA es inalcanzable y que cualquier sistema de defensa actual es un compromiso complejo entre rendimiento y minimización de los vectores de ataque.

2025 fue un año de inflexión para la industria de la seguridad de la IA. Antes, el foco estaba en ataques relativamente simples que eludían los filtros estándar para obtener respuestas indeseadas de los modelos. Ahora se observa una transición hacia métodos más complejos y encubiertos.

Los expertos señalaron que los «guardarraíles» clásicos, los mecanismos pensados para limitar el comportamiento de la IA, a menudo resultan ineficaces frente a ataques dirigidos. Paradójicamente, el coste de estos ataques ha bajado gracias a nuevas herramientas y metodologías, lo que los pone al alcance de un círculo más amplio de atacantes. Los investigadores subrayaron que los desarrolladores de sistemas de IA están inmersos en una carrera armamentista constante: intentan anticipar y bloquear nuevos vectores de amenaza mientras los atacantes se adaptan y encuentran nuevas vulnerabilidades.

Uno de los temas más debatidos fueron las puertas traseras LoRA. Este tipo de amenaza, relativamente nuevo, consiste en vulnerabilidades ocultas que se introducen en los modelos durante el ajuste fino (fine-tuning) con técnicas de Low-Rank Adaptation (LoRA). A diferencia de las puertas traseras tradicionales, que pueden ser más evidentes, las LoRA suelen pasar inadvertidas y pueden activarse solo bajo ciertas condiciones o consultas.

Pueden usarse para robar datos, manipular las salidas del modelo o incluso inutilizar por completo un sistema. Los investigadores subrayaron que detectar estos mecanismos ocultos exige un análisis profundo de la arquitectura y el comportamiento del modelo, lo que complica considerablemente la defensa. Los agentes de IA autónomos fueron otra fuente de preocupación.

A medida que estos agentes se vuelven más complejos y más capaces de ejecutar tareas por sí solos, controlar sus acciones se convierte en un problema crítico. Su comportamiento puede ser impredecible, y su capacidad de autoaprendizaje y adaptación puede provocar consecuencias imprevistas, difíciles o imposibles de controlar. Los expertos expresaron el temor de que, en el futuro, los agentes autónomos puedan convertirse en una herramienta poderosa en manos de los atacantes.

Las consecuencias de estas tendencias para la industria de la seguridad de la IA son múltiples. En primer lugar, los enfoques tradicionales de seguridad ya no bastan. Hacen falta métodos nuevos y más sofisticados de detección y prevención de amenazas que tengan en cuenta las particularidades de los modelos de IA actuales.

En segundo lugar, crece el papel del conocimiento experto y de una comprensión profunda de cómo funciona la IA. Combatir las nuevas amenazas requiere no solo habilidades técnicas, sino también pensamiento analítico y capacidad de pronóstico. En tercer lugar, es necesario replantear el propio concepto de «seguridad de la IA».

Como subrayaron los participantes, la seguridad absoluta no existe. Todo sistema de defensa es un compromiso entre el nivel de seguridad, el rendimiento del sistema y la facilidad de uso. De lo que se trata es de encontrar el equilibrio óptimo y minimizar al mismo tiempo los riesgos potenciales.

En conclusión, 2025 demostró que la seguridad de la inteligencia artificial es un campo dinámico y en constante evolución. Las amenazas son cada vez más sofisticadas y los métodos de defensa tradicionales pierden eficacia. La aparición de las puertas traseras LoRA y el aumento del número de agentes de IA autónomos plantean a investigadores y desarrolladores retos nuevos y complejos.

La idea clave fue entender que buscar la seguridad absoluta es una utopía. En su lugar, el foco debe desplazarse hacia el desarrollo de sistemas de defensa flexibles y adaptativos, capaces de hacer frente a un panorama de amenazas en cambio permanente y que asuman que los compromisos son inevitables. El futuro de la seguridad de la IA dependerá de la capacidad de la industria para innovar y anticiparse, así como de su disposición a aprender y adaptarse de forma continua.