Cómo los investigadores esquivaron las protecciones de los modelos de IA: fácil y peligroso

Los investigadores han demostrado una grave brecha en la seguridad de los sistemas de IA actuales: las restricciones integradas sobre contenido prohibido se pueden eludir con facilidad mediante una simple modificación del modelo.

Cómo funcionan las restricciones actuales

Los desarrolladores de IA configuran los modelos para que rechacen solicitudes destinadas a obtener información sobre la fabricación de armas, drogas, explosivos u otro contenido peligroso. Esto se hace en varios niveles: durante el entrenamiento, el modelo aprende qué temas son tabú, y durante el uso se activan filtros adicionales que bloquean las solicitudes sospechosas. Este enfoque se ha convertido en práctica estándar en todos los grandes sistemas de IA, desde GPT y Claude hasta los modelos locales. Las empresas invierten recursos considerables para que sus modelos sean seguros y éticos.

Cómo los investigadores esquivaron la protección

Sin embargo, resulta que la protección es mucho menos sólida de lo que parecía. Los investigadores descubrieron que una simple modificación del modelo permite eliminar estas restricciones. En lugar de reentrenar todo el sistema, basta con cambiar ciertos parámetros o usar técnicas especiales que hacen que el modelo ignore las instrucciones de seguridad integradas. Esto indica que la protección no es una característica arquitectónica profunda, sino más bien una capa externa que se puede eludir.

• Modificación de los pesos y parámetros del modelo
• Prompts especiales que evitan las instrucciones
• Manipulación del contexto y reformulación de las solicitudes
• Uso de versiones abiertas de los modelos

Riesgos para la seguridad

El hallazgo supone un reto serio para todo el sector. Si las restricciones de las versiones oficiales de los modelos se eluden con tanta facilidad, ningún sistema está completamente protegido. Y las versiones abiertas o modificadas son todavía más vulnerables, porque se les puede aplicar cualquier cambio.

«Modificar estos modelos permite eliminar bastante fácilmente todas

las restricciones de este tipo», concluyeron los investigadores.

Las autoridades y los reguladores están preocupados: el uso ético de la IA exige no solo prohibiciones, sino una protección arquitectónica sólida que no se rompa en cuestión de días o semanas.

Qué significa

Los resultados del estudio muestran que el enfoque actual de la seguridad en IA requiere replantearse por completo. No bastan los filtros de entrada y salida: hace falta una arquitectura de modelos radicalmente nueva, en la que las restricciones estén integradas a nivel fundamental. De lo contrario, el problema no se resolverá; solo se complicará a medida que se extiendan los modelos abiertos y las versiones locales.