OpenAI s'explique sur les incidents survenus lors d'évaluations tierces de la cybersécurité de ses modèles

OpenAI a publié sur son blog officiel une analyse des incidents récents liés à des évaluations tierces de cybersécurité, et annonce un nouvel ensemble de mesures pour renforcer les processus de test de ses modèles d'IA.

Ce qui s'est passé lors des vérifications tierces

L'entreprise reconnaît que des incidents ayant nécessité une explication officielle se sont produits lors d'évaluations externes de cybersécurité récentes. Les évaluations de sécurité par des tiers sont une pratique courante dans le secteur : des chercheurs et des organisations indépendants obtiennent un accès aux modèles afin d'identifier les vulnérabilités avant qu'elles n'apparaissent dans des produits réels.

• Les incidents se sont produits lors d'évaluations de cybersécurité menées par des tiers (third-party)
• OpenAI a elle-même pris l'initiative de clarifier publiquement la situation via son blog officiel
• L'entreprise a annoncé des mesures de protection mises à jour pour les processus de test

Selon le blog officiel d'OpenAI, cette publication vise à assurer la transparence sur la manière dont l'entreprise interagit avec les chercheurs externes en sécurité et sur les mécanismes de contrôle qui existent lors des vérifications.

Pourquoi c'est important pour la sécurité de l'IA

Les évaluations tierces de cybersécurité constituent un élément clé du développement responsable des grands modèles de langage. Des organisations comme METR et Apollo Research, ainsi que des structures gouvernementales aux États-Unis et au Royaume-Uni, mènent régulièrement ce type de vérifications pour déterminer si les modèles sont capables d'aider à créer des cyberarmes, de mener des attaques autonomes ou de contourner leurs garde-fous.

«

Nous avons le devoir d'être transparents sur les questions de sécurité, aussi bien envers nos partenaires d'évaluation qu'envers la société dans son ensemble », indique la déclaration officielle d'OpenAI.

Les mesures de protection mises à jour qu'OpenAI a annoncées visent à réduire les risques pendant les processus de test eux-mêmes, c'est-à-dire à l'étape où des chercheurs externes interagissent avec des versions potentiellement vulnérables des modèles.

Ce que cela signifie

Cette publication ouverte d'OpenAI signale un relèvement des standards de transparence dans l'industrie de l'IA : les entreprises sont de plus en plus contraintes d'expliquer non seulement ce que leurs modèles savent faire, mais aussi comment ils sont testés sur le plan de la sécurité, et ce qui se passe lorsque ces processus dérapent.