Los permisos de los agentes de IA deben crecer con sus capacidades, como lo hace Anthropic

Anthropic ha publicado una guía de ingeniería sobre la gestión de los permisos de los agentes de IA. Su conclusión principal: a medida que los agentes se vuelven más potentes y asumen tareas más complejas, sus permisos deben evolucionar. La compañía usa sandboxing, una técnica que restringe las acciones potencialmente destructivas y protege los sistemas frente a errores.

Por qué es crítico

Los agentes de IA acceden cada vez más a herramientas externas: el navegador, el sistema de archivos, APIs, bases de datos. Eso amplía sus capacidades, pero también aumenta el riesgo. Si el agente se equivoca, o lo empuja a error una petición mal formulada, puede borrar datos importantes, enviar un correo accidental desde tu cuenta o ejecutar una operación financiera incorrecta.

Anthropic subraya que los permisos no son un conjunto estático de autorizaciones. Deben crecer con las capacidades y la fiabilidad del agente. Un agente nuevo recibe el mínimo de derechos y, a medida que demuestra estabilidad y comprensión del contexto, sus permisos se amplían de forma gradual.

Cómo funciona el sandboxing

El sandboxing es aislamiento. Se permite al agente actuar en un entorno limitado del que no puede salir ni dañar el resto del sistema. Ejemplos:

• El agente solo puede editar archivos de la carpeta /tmp, sin tocar los directorios del sistema
• Las peticiones a la API pasan por una capa proxy que verifica cada llamada
• Un agente de navegador solo ve ciertos sitios; el resto está bloqueado
• Las operaciones financieras requieren confirmación adicional o tienen un límite de importe
• Las bases de datos son de solo lectura, o solo accesibles para determinadas tablas

Este enfoque da al agente libertad suficiente para trabajar y a la vez lo mantiene dentro de los límites de seguridad.

El enfoque práctico de Anthropic

En sus productos, incluidos Claude y los nuevos frameworks de agentes, Anthropic aplica estos principios en la práctica. Al desplegar un agente, primero se define qué herramientas puede usar y cómo deben restringirse. Por ejemplo, si el agente debe responder preguntas sobre tu documentación, solo se le da acceso a esa documentación. Si ayuda a gestionar un calendario, se le permite leer y escribir únicamente eventos, no gestionar otros aspectos de la cuenta.

Es especialmente importante montar un sistema de monitorización. La compañía recomienda registrar todas las acciones del agente: qué comandos ejecutó, qué herramientas usó, qué errores ocurrieron. Las auditorías periódicas ayudan a detectar con rapidez un comportamiento extraño. Si el agente empieza a hacer cosas imprevistas o rompe sus patrones habituales, el sistema debe avisar o bloquearlo.

«La confianza no es una elección binaria.

Es un espectro, y hay que darle al agente exactamente los permisos que necesita para trabajar en ese momento», afirma la guía de Anthropic.

Si el agente demuestra estabilidad y comprensión del contexto, sus permisos pueden ampliarse gradualmente. Pero debe ser un proceso consciente y por etapas, no un ascenso automático basado en el tiempo de funcionamiento.

Qué significa

Un sandboxing adecuado y unos permisos dinámicos no son solo una buena práctica: son una necesidad al desplegar agentes de IA en producción. Para las organizaciones que despliegan agentes de IA en sus sistemas, esto implica: pensar con cuidado qué debe hacer el agente y qué datos necesita, definir el alcance exacto de sus permisos y restricciones, monitorizar su comportamiento en tiempo real y ampliar los permisos gradualmente conforme crezca su fiabilidad.

Es especialmente importante en escenarios críticos: si el agente tiene acceso a datos financieros, historiales médicos, información personal o infraestructura crítica, el riesgo de error se vuelve enorme.

Para empresas de IA como Anthropic, significa incorporar estos principios a la arquitectura del producto desde el principio, y no añadirlos después como un parche.