IBM: у 92% компаний с AI-инцидентами не было базового контроля доступа

IBM a étudié les incidents de sécurité d'entreprise dans les systèmes AI et a constaté un schéma qui modifie les priorités en matière de protection de l'IA : 92 % des entreprises ayant subi un incident de ce type ne disposaient d'aucun contrôle d'accès de base à leurs outils AI. Par ailleurs, le modèle lui-même — son architecture, ses poids ou son algorithme — n'était pas la cause première du problème dans la majorité des cas documentés.

Où se trouve réellement la vulnérabilité

92 % des entreprises ayant subi des incidents AI ne restreignaient pas qui pouvait accéder à leurs systèmes AI ni avec quels droits — c'est le chiffre clé de l'étude IBM. Le contrôle d'accès, l'audit des droits et la surveillance des requêtes adressées au modèle étaient absents là où ils auraient dû constituer la première barrière de protection.

Par ailleurs, les attaquants n'ont généralement pas ciblé le modèle directement. Ils exploitaient des vecteurs plus simples : ils compromettaient un compte disposant de privilèges excessifs, obtenaient l'accès à l'interface AI — et le système lui-même leur fournissait ensuite les informations dont ils avaient besoin.

• 92 % des entreprises victimes d'incidents AI ne disposaient pas d'un contrôle d'accès suffisant aux systèmes AI
• Le modèle AI était rarement la cause première de la violation de sécurité
• Principaux vecteurs d'attaque : privilèges excessifs des comptes utilisateurs et de service
• L'absence de surveillance des requêtes anormales adressées aux systèmes AI aggravait l'ampleur des incidents

Le contrôle d'accès à un système AI ne se limite pas à un identifiant et un mot de passe. Dans le contexte d'entreprise, cela implique des permissions granulaires : quelles données et bases de connaissances sont accessibles au modèle, quels employés et sous-traitants ont le droit d'envoyer des requêtes et dans quelle mesure.

Pourquoi les systèmes AI sont devenus une cible attrayante

Les outils AI d'entreprise accèdent de plus en plus largement à des données métier critiques : bases clients, documents financiers, correspondance interne et matériaux stratégiques. C'est précisément ce qui en fait une cible de valeur — non pas en raison des vulnérabilités du modèle lui-même, mais à cause des données accessibles via lui par de simples requêtes.

Une installation AI d'entreprise typique connecte le modèle à des documents, des données CRM, des chats professionnels et des bases de connaissances. En l'absence de restrictions sur ce que le système peut « voir » et restituer en réponse aux requêtes, l'ampleur d'une fuite de données potentielle est uniquement déterminée par l'étendue de l'accès aux données dont disposait le compte compromis.

«

Le modèle lui-même est rarement le problème », conclut l'étude IBM, qui pointe les facteurs organisationnels et de configuration comme principale cause de la majorité des incidents AI documentés.

Pourquoi les mesures de base restent non appliquées

L'adoption accélérée de l'AI en entreprise a créé une situation dans laquelle les systèmes AI sont connectés aux données de production avant que le périmètre de sécurité nécessaire ne soit établi autour d'eux. Les outils sont souvent perçus comme « un SaaS de plus » plutôt que comme une infrastructure ayant accès à des ressources d'entreprise critiques.

Le principe du moindre privilège (least privilege), l'audit régulier des accès, la surveillance des requêtes anormales et la ségrégation des environnements de test et de production ne sont pas de nouveaux concepts. La sécurité informatique les applique aux CRM, ERP et bases de données depuis des décennies. Selon IBM, cette étape est systématiquement négligée lors du déploiement des systèmes AI.

Ce que cela signifie

L'étude IBM déplace la conversation sur la sécurité de l'AI du domaine des risques algorithmiques vers celui de la maturité organisationnelle. Les débats publics sur les menaces AI se concentrent souvent sur les vulnérabilités des modèles eux-mêmes : prompt injection, hallucinations, comportement imprévisible. Mais le tableau réel des incidents, selon IBM, est différent : neuf entreprises sur dix qui ont subi une violation AI auraient pu l'éviter grâce à des mesures que les professionnels de la sécurité de l'information appliquent depuis des décennies.

Pour les CISO et les équipes IT, c'est la conclusion essentielle : avant de faire évoluer l'infrastructure AI, il est indispensable de s'assurer que les mêmes normes de contrôle d'accès appliquées à tout autre outil d'entreprise critique sont également en place autour d'elle.