Cómo los investigadores eludieron la protección en modelos de IA: simple y peligroso

Los investigadores demostraron una brecha de seguridad seria en los sistemas de IA modernos: las limitaciones integradas para rechazar contenido prohibido se pueden eludir fácilmente mediante una simple modificación del modelo.

Cómo funcionan las limitaciones actuales

Los desarrolladores de IA ajustan los modelos para que rechacen solicitudes dirigidas a obtener información sobre la creación de armas, drogas, explosivos u otro contenido peligroso. Esto se hace en varios niveles: durante la fase de entrenamiento, el modelo aprende qué temas están prohibidos, y durante la fase de uso, entran en juego filtros adicionales que bloquean solicitudes sospechosas. Este enfoque se ha convertido en una práctica estándar para todos los grandes sistemas de IA, desde GPT y Claude hasta modelos locales. Las empresas invierten recursos significativos para asegurar que los modelos sean seguros y éticos.

Cómo los investigadores eludieron la protección

Sin embargo, resulta que la protección está lejos de ser tan confiable como parecía. Los investigadores descubrieron que una simple modificación del modelo permite eludir estas limitaciones. En lugar de reentrenar todo el sistema, es suficiente cambiar ciertos parámetros o usar técnicas especiales que obliguen al modelo a ignorar las instrucciones de seguridad integradas. Esto sugiere que la protección no es una característica arquitectónica profunda, sino más bien una capa externa que se puede eludir.

• Modificación de pesos y parámetros del modelo
• Indicaciones especiales que eluden las instrucciones
• Manipulación del contexto y reformulación de solicitudes
• Uso de versiones abiertas de modelos

Riesgos para la seguridad

El descubrimiento presenta un desafío serio para toda la industria. Si las limitaciones en las versiones oficiales de modelos se eluden tan fácilmente, esto significa que ningún sistema está completamente protegido. Y el uso de versiones abiertas o modificadas de modelos es aún más vulnerable: se pueden realizar cambios en ellas.

«La modificación de estos modelos permite eludir bastante fácilmente

todas estas limitaciones», concluyeron los investigadores.

Las agencias gubernamentales y los reguladores están preocupados por esto: el uso ético de la IA requiere no solo restricciones, sino una protección arquitectónica confiable que no se rompa en cuestión de días o semanas.

Qué significa esto

Los resultados de la investigación muestran que el enfoque actual para la seguridad de la IA requiere un replanteamiento completo. Se necesitan no solo filtros de entrada y salida, sino una arquitectura de modelos fundamentalmente nueva donde las limitaciones estén integradas a nivel fundamental. De lo contrario, el problema no se resolverá: solo se complicará a medida que se propaguen modelos abiertos y versiones locales.