Anthropic añade un modo automático a Claude Code para trabajar de forma segura sin supervisión

Anthropic ha lanzado auto mode para Claude Code. Ahora el agente de IA evalúa por sí mismo el riesgo de cada acción y bloquea las operaciones potencialmente peligrosas, como borrar archivos, filtrar datos o ejecutar instrucciones ocultas, antes de que se ejecuten. Además, en lugar de limitarse a negarse, propone alternativas más seguras. Es una tercera vía entre la supervisión constante y la autonomía total, que Anthropic considera inaceptablemente arriesgada.

Procesado por IA desde The Verge; editado por Hamidun News
Anthropic añade un modo automático a Claude Code para trabajar de forma segura sin supervisión
Fuente: The Verge. Collage: Hamidun News.
Escuchar artículo

Anthropic ha lanzado un modo automático para Claude Code, su herramienta de desarrollo basada en IA que permite al modelo ejecutar tareas por su cuenta en nombre del usuario. El nuevo auto mode aborda uno de los principales problemas de los agentes autónomos: cómo dar a la IA libertad suficiente para trabajar con eficacia sin arriesgarse a perder datos, filtrar información o ejecutar comandos no deseados.

Antes de auto mode, los usuarios de Claude Code se enfrentaban a una elección incómoda. Podían controlar manualmente cada acción del agente, algo fiable pero lento y agotador. O concederle al modelo permisos amplios y no intervenir, lo que es rápido pero arriesgado. Claude Code ya puede trabajar por sí solo: borrar archivos, enviar datos, ejecutar comandos del sistema. Eso lo convierte en una herramienta potente, pero también potencialmente peligrosa, sobre todo si el agente se topa con instrucciones ocultas en código de terceros o en datos maliciosos.

Auto mode se ha diseñado como una tercera vía. La nueva función analiza las acciones que el agente está a punto de realizar, evalúa su riesgo potencial y bloquea las operaciones peligrosas antes de que se ejecuten. El agente puede entonces proponer una forma alternativa y más segura de alcanzar el mismo objetivo, en lugar de limitarse a rechazar la tarea. Anthropic lo presenta como un equilibrio entre la supervisión constante y un nivel de autonomía peligroso que la compañía considera inaceptable para un público amplio.

En esencia, auto mode es una capa integrada de autocensura para el agente. En lugar de pedir permiso al usuario en cada paso o actuar sin control, Claude Code sopesa ahora los riesgos por sí mismo en tiempo real. Recuerda al enfoque de los sistemas de seguridad industrial: no bloquear todas las acciones fuera de lo habitual, sino evaluar el contexto y reaccionar ante amenazas reales.

El problema que auto mode pretende resolver es bien conocido por los desarrolladores. Los agentes de IA son vulnerables a los llamados ataques de inyección de prompts, en los que se esconden instrucciones maliciosas en los datos, documentos o código de bibliotecas de terceros que procesa el agente. El agente las cumple diligentemente, sin sospechar la amenaza. Además, los permisos amplios en modo autónomo pueden provocar consecuencias no deseadas incluso sin mala intención: borrar archivos necesarios, enviar datos confidenciales a servicios externos o ejecutar operaciones destructivas sobre bases de datos.

El lanzamiento de auto mode forma parte de una tendencia más amplia en la industria. A medida que los agentes de IA se vuelven más autónomos, la controlabilidad y la seguridad pasan a primer plano para todos los actores clave del mercado. Las empresas buscan formas de ofrecer herramientas potentes sin crear nuevas vulnerabilidades. Anthropic apuesta claramente por que la confianza en Claude Code crezca junto con su fiabilidad y la previsibilidad de su comportamiento.

Para los desarrolladores que usan Claude Code en proyectos reales, auto mode supone una mejora práctica del flujo de trabajo. Ya no hay que elegir dolorosamente entre velocidad y seguridad. El agente asume parte de las decisiones, pero solo las que se pueden delegar, y deja bajo el control del usuario las acciones críticas e irreversibles. Es un paso hacia herramientas de IA en las que se puede confiar en un entorno de trabajo real.

Historia
ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Hands-On AI Engineering · Hamidun Academy

Build & Ship Production AI Agents Without Boilerplate Code

Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.

Start 72h Free Trial →Vibe-Coding Intensive
¿Qué te parece?
Cargando comentarios…