Anthropic ajoute un mode automatique à Claude Code pour une utilisation sûre sans supervision
Anthropic a lancé auto mode pour Claude Code. L’agent AI évalue désormais lui-même le risque de chaque action et bloque les opérations potentiellement…
Traité par IA depuis The Verge ; édité par Hamidun News
Anthropic a lancé un mode automatique pour Claude Code — un outil de développement basé sur l'IA qui permet au modèle d'exécuter des tâches de manière indépendante au nom de l'utilisateur. Le nouveau mode automatique résout l'un des principaux problèmes des agents autonomes : comment donner à l'IA suffisamment de liberté pour travailler efficacement sans risquer la perte de données, les fuites d'informations ou l'exécution de commandes indésirables. Avant l'apparition du mode automatique, les utilisateurs de Claude Code faisaient face à un choix inconfortable.
Vous pouviez contrôler manuellement chaque action de l'agent — de manière fiable, mais lentement et fastidieusement. Ou accorder au modèle des autorisations larges et s'abstenir d'intervenir — rapidement, mais risqué. Claude Code sait déjà comment fonctionner de façon indépendante : supprimer des fichiers, envoyer des données, exécuter des commandes système.
Cela en fait un outil puissant, mais aussi potentiellement dangereux — surtout si l'agent rencontre des instructions cachées dans du code tiers ou des données malveillantes. Le mode automatique a été développé comme une troisième voie. La nouvelle fonctionnalité analyse les actions futures de l'agent, évalue leur risque potentiel et bloque les opérations dangereuses avant qu'elles ne soient exécutées.
Ce faisant, l'agent obtient la capacité de proposer un moyen alternatif et plus sûr d'atteindre le même objectif — au lieu de simplement refuser d'exécuter la tâche. Anthropic le positionne comme un équilibre entre la surveillance constante et un niveau dangereusement élevé d'autonomie, que l'entreprise considère comme inacceptable pour un large public d'utilisateurs. Essentiellement, le mode automatique est un niveau intégré d'autocensure pour l'agent.
Au lieu de demander la permission de l'utilisateur à chaque étape ou d'agir sans contrôle, Claude Code pèse maintenant les risques en temps réel. Cela ressemble à l'approche utilisée dans les systèmes de sécurité industrielle : ne pas bloquer toutes les actions non standard, mais évaluer le contexte et répondre aux menaces réelles. Le problème avec les systèmes d'agents que le mode automatique est censé résoudre est bien connu des développeurs.
Les agents d'IA sont vulnérables aux soi-disant attaques par injection de prompts — lorsque des instructions malveillantes sont cachées dans les données traitées, les documents ou le code de bibliothèques tierces. L'agent les exécute diligemment, inconscient de la menace. De plus, les autorisations larges en mode autonome peuvent entraîner des conséquences indésirables même sans intention malveillante : suppression de fichiers nécessaires, transmission de données confidentielles à des services externes, exécution d'opérations destructrices sur des bases de données.
Le lancement du mode automatique fait partie d'une tendance plus large dans l'industrie. À mesure que les agents d'IA deviennent de plus en plus autonomes, les questions de contrôlabilité et de sécurité deviennent primordiales pour tous les acteurs clés du marché. Les entreprises cherchent des moyens de fournir aux utilisateurs des outils puissants sans créer de nouvelles vulnérabilités.
Anthropic parie clairement que la confiance dans Claude Code augmentera avec sa fiabilité et la prévisibilité de son comportement. Pour les développeurs qui utilisent Claude Code dans des projets réels, le mode automatique est une amélioration pratique du flux de travail. Plus besoin de faire un choix douloureux entre vitesse et sécurité.
L'agent prend certaines décisions à sa charge, mais précisément celles qui peuvent être déléguées — laissant les actions critiques et irréversibles sous le contrôle de l'utilisateur. C'est un pas vers les outils d'IA auxquels on peut faire confiance dans un véritable environnement de travail.
Vous voulez cesser de lire sur l'IA et commencer à l'utiliser?
AI News est un fil d'actualité IA. Hamidun Academy vous apprend à utiliser l'IA dans votre travail.