OpenAI et Hacktron concentrent leur audit sur une seule couche : les intégrations externes

Un agent d'IA met rarement un système à genoux à lui seul. Les vrais problèmes commencent aux points de jonction : le modèle appelle une API externe, reçoit un jeton temporaire, lit des données dans le cloud et transmet le résultat au service suivant. Chaque opération peut sembler sûre prise isolément, mais ensemble elles dessinent un nouveau chemin d'attaque.

C'est précisément cette couche qu'OpenAI compte examiner avec Hacktron. Les chercheurs de l'entreprise travailleront avec les ingénieurs d'OpenAI sur des domaines prioritaires sélectionnés, en portant une attention particulière à l'interaction des systèmes avec les services externes. Par ailleurs, Hacktron bénéficiera d'un accès élargi aux modèles de pointe via le programme Daybreak Red.

Pourquoi cibler les points de jonction

Imaginons un agent d'entreprise qui traite les demandes des clients. Il lit un e-mail, cherche des données dans le CRM, consulte l'historique des paiements et crée une tâche pour le support. Chaque service dispose de sa propre autorisation, mais l'agent les relie en une seule chaîne.

Si un attaquant parvient à faire exécuter à l'agent une action indésirable via le contenu d'un e-mail, les conséquences ne dépendront pas uniquement du modèle. Ce qui compte : quels jetons sont accessibles au processus, s'il est autorisé à exporter la fiche client complète, s'il peut créer de nouveaux utilisateurs et si le système vérifie la finalité de chaque appel. Une vulnérabilité peut apparaître entre des composants qui ont chacun passé un audit.

Hacktron est justement spécialisée dans ce type d'enchaînements : applications, infrastructure cloud et systèmes de gestion des accès. L'équipe développe des agents d'IA pour l'analyse de code, les tests d'intrusion et le red teaming. OpenAI l'a découverte via son propre programme de primes aux bogues, après que les chercheurs ont identifié et divulgué de manière responsable plusieurs vulnérabilités.

Ce qui change dans l'approche d'OpenAI

Ce partenariat ne remplace pas la sécurité interne. Hacktron travaillera aux côtés des ingénieurs d'OpenAI, et les chercheurs indépendants pourront toujours soumettre leurs découvertes via le bug bounty. Peu avant, OpenAI avait également annoncé un nouveau cycle de tests renforcés avec Cathedral et relevé les récompenses pour les vulnérabilités découvertes.

On obtient un dispositif à plusieurs niveaux : les équipes produit connaissent l'architecture des systèmes, les spécialistes invités recherchent les chaînes d'attaque complexes, et le programme de récompenses ouvert élargit le cercle des contrôleurs. L'accès à des modèles plus puissants devrait aider les chercheurs à analyser plus vite le code et l'infrastructure, mais la publication ne communique ni résultats de tests, ni nombre de failles trouvées, ni délais de correction. Pour l'instant, il s'agit donc d'une promesse de processus, et non d'une preuve de son efficacité.

Il existe aussi une limite évidente : le même outil puissant qui accélère le travail des défenseurs peut accélérer celui des attaquants. Un accès élargi exige une isolation de l'environnement, une journalisation des actions et un contrôle strict des systèmes que l'agent peut toucher. La simple présence d'un modèle de pointe ne garantit pas un audit de qualité : il faut des spécialistes expérimentés, des vérifications reproductibles et une procédure de correction claire.

Que faire pour les développeurs et les produits

Lorsque vous concevez un agent, ne dessinez pas seulement le schéma de ses prompts, mais aussi la cartographie complète de ses autorisations : quelles API il appelle, où se trouvent les jetons, quelles données il lit et où il peut les envoyer. Pour chaque étape, définissez des droits minimaux, limitez le volume des opérations et conservez un journal des appels.

Vérifiez séparément les chaînes, et pas seulement les composants. Essayez de transmettre une instruction malveillante via un e-mail, un document ou la réponse d'un service externe, et observez si elle peut modifier le comportement de l'agent. Les actions critiques — paiements, octroi d'accès, suppression de données — gagnent à être confirmées séparément, sans s'en remettre à la seule décision du modèle.

La principale leçon du partenariat entre OpenAI et Hacktron est simple : la surface d'attaque d'un produit d'IA ne s'arrête pas au modèle. Plus un agent connecte de services, plus il est important de vérifier les frontières entre eux — c'est là que des fonctions sûres isolément peuvent s'assembler en un scénario dangereux.