Comment Rosatom a acheté des outils d'IA par des canaux non officiels

L'auteur d'un article sur Habr a consacré une publication à une histoire sur la façon dont chez Rosatom, selon le titre "Comment Rosatom a acheté des outils d'IA par des canaux non officiels", certains de ces outils ont été achetés en contournant les procédures d'approvisionnement standard. Le texte ne s'ouvre pas avec une exposition sèche des faits, mais avec une série de proverbes dans différentes langues sur le même phénomène : économiser sur les choses importantes finit par entraîner des pertes beaucoup plus importantes — "faire des économies mal placées mène à des problèmes encore plus grands" en russe, "Tanie mięso psy jedzą" ("la viande bon marché, les chiens la mangent") en polonais et "Penny wise, pound foolish" dans la tradition britannique.

De quoi l'auteur avertit-il au début de l'article

• Titre de l'article — "Comment Rosatom a acheté des outils d'IA par des canaux non officiels"
• Source — section Habr AI
• Proverbes en trois langues — versions russe, polonaise et anglaise de la même pensée sur les économies trompeuses
• Citation clé — la question latine "Quis custodiet ipsos custodes?" ("qui gardera les gardiens?")
• Thème déclaré — les économies sur le personnel SMM comme point de départ de l'histoire

Plus loin dans le texte, l'auteur se réfère à la question latine classique "Quis custodiet ipsos custodes?" et la lie aux économies sur le personnel SMM, qui, selon la formulation de la publication, ont conduit aux événements ultérieurs. Ce dispositif rhétorique établit le cadre du matériel : il ne s'agit pas simplement d'une violation des procédures internes d'approvisionnement, mais d'une situation dans laquelle l'absence de contrôle interne a permis à la pratique mise en œuvre en dehors des canaux officiels de rester inaperçue jusqu'à ce que les conséquences deviennent évidentes pour un public plus large, y compris les lecteurs de publications spécialisées.

Pourquoi les achats non officiels d'outils d'IA sont-ils un risque systémique?

Le problème général soulevé par le titre de l'article est plus large qu'un seul cas. Dans les grandes organisations réglementées — sociétés d'État, banques, holdings industriels — l'approvisionnement en logiciels et abonnements aux services d'IA est centralisé précisément pour que le fournisseur passe la vérification, et l'ordre du traitement des données, la légitimité des licences et les exigences de sécurité soient confirmés avant que l'outil ait accès aux comptes ou informations d'entreprise. Lorsque des départements individuels ou des entrepreneurs contournent ce processus — souvent pour économiser du temps ou de l'argent, par exemple en utilisant des revendeurs non officiels ou des comptes personnels pour les outils de marketing et de SMM — l'organisation perd la visibilité sur exactement ce qui a eu accès à ses systèmes, et ne peut pas vérifier que l'outil répond aux normes de sécurité et de conformité.

Cette classe de problèmes, que l'on appelle généralement "TI fantôme" dans la pratique d'entreprise, s'est intensifiée à mesure que les outils d'IA ont commencé à apparaître et à se propager plus rapidement que les procédures d'approbation formelles ne peuvent le suivre — la tentation de contourner une longue chaîne d'approbations pour des résultats rapides augmente avec le nombre de services d'IA disponibles sur le marché.

Ce que cela signifie pour les grandes organisations

Les histoires comme celle décrite par l'auteur deviennent généralement des cas indicatifs de pourquoi gérer l'achat et l'utilisation d'outils d'IA — vérification des fournisseurs, définition claire de qui est autorisé à approuver les achats, et comptabilisation des outils ayant accès à quelles données — est important pour l'ère de l'IA dans la même mesure qu'il l'a toujours été pour les logiciels traditionnels. Pour les organisations travaillant avec des informations sensibles ou réglementées, la question rhétorique "qui gardera les gardiens?", avec laquelle l'auteur ouvre l'article, se lit non comme une citation détachée, mais comme une indication directe de l'absence de contrôle interne sur qui et comment prend les décisions d'approvisionnement pour de nouveaux outils numériques sur le terrain.

Le choix d'une collection de trois langues de proverbes — russe, polonaise et anglaise — fonctionne également vers le message général : l'auteur montre que le phénomène qui sera discuté n'est pas unique à un seul pays ou à une industrie, mais est un piège universel de gestion dans lequel les organisations du monde entier tombent quand elles décident d'économiser sur les procédures de contrôle pour des gains à court terme. C'est précisément pour cette raison que le titre de l'article est présenté comme une analyse d'un cas spécifique, mais en réalité soulève une question pertinente pour toute grande structure achetant des outils numériques en dehors d'un seul centre de responsabilité.