L'industrie de la sécurité de l'IA en Chine s'est développée au niveau des États-Unis et d'Israël, écrit Habr

L'industrie de la sécurité de l'IA en Chine a atteint le niveau des États-Unis et d'Israël, écrit Habr

Le marché de la sécurité de l'IA en Chine est opaque pour les observateurs externes — la moitié des produits n'ont même pas de pages d'accueil en anglais — mais au cours des dernières années, une industrie a grandi qui a atteint un niveau de maturité comparable à celui des acteurs américains et israéliens de la sécurité de l'information. C'est ce que RAFT écrit dans son blog sur Habr.

Quelles tâches la sécurité de l'IA chinoise résout-elle

La tâche de protéger l'IA en Chine est exactement la même que partout ailleurs dans le monde : vous avez besoin de garde-fous qui vérifient l'entrée et la sortie du modèle, vous avez besoin de systèmes de surveillance et de protection séparée pour les agents d'IA qui ne font plus que répondre par du texte, mais qui parcourent les outils, les fichiers et les API d'entreprise. Cela signifie que la croissance du marché chinois de la sécurité de l'IA ne s'est pas produite en raison d'une formulation du problème fondamentalement différente, mais en raison de la même demande de sécurité des agents qu'en Occident.

• La moitié des produits du marché chinois de la sécurité de l'IA n'ont même pas de pages d'accueil en anglais
• Au cours des dernières années, une industrie complète s'est développée, comparable en maturité aux marchés des États-Unis et d'Israël
• La protection est maintenant nécessaire non seulement pour les modèles, mais aussi pour les agents qui travaillent avec des outils, des fichiers et des API d'entreprise

Contre quelles menaces on se bat en Chine

Le modèle de menace en Chine est familier à tout spécialiste de la sécurité de l'IA : injections d'invite, fuites de données et de secrets, mauvaise utilisation des outils et compétences d'agent empoisonnées.

«Extérieurement, le marché chinois de la sécurité de l'IA n'est pas

transparent, la moitié des produits n'ont même pas de pages d'accueil en anglais, mais à l'intérieur au cours des deux dernières années une industrie complète s'est développée qui est comparable en maturité aux acteurs américains et israéliens», — selon le blog de RAFT sur Habr.

Quelle est la différence avec le marché occidental

Avec un problème similaire, la différence entre les marchés chinois et occidentaux de la sécurité de l'IA réside dans le contexte : une pile souveraine de matériel et de systèmes d'exploitation, une compréhension déterminée par le parti de l'IA sécurisée et un écosystème complet de produits dont presque personne en dehors de la Chine n'a entendu parler.

Cela signifie que même un spécialiste bien versé dans les marchés américains et israéliens de la sécurité de l'IA, lorsqu'il rencontre le secteur chinois pour la première fois, devra faire face à des noms de produits inconnus et à des solutions adaptées à un matériel et une pile de SO différents — tandis que les tâches de sécurité de base restent les mêmes.

Ce que cela signifie

L'industrie de la protection de l'IA se développe en parallèle dans différents blocs technologiques — en Chine, elle a atteint un niveau comparable à celui des États-Unis et d'Israël, restant simplement invisible de l'extérieur en raison de barrières linguistiques et infrastructurelles.

Questions fréquemment posées

Quelles menaces sont pertinentes pour les agents d'IA en

Chine et dans le monde ?

Les mêmes partout : injections d'invite, fuites de données et de secrets, mauvaise utilisation des outils et compétences d'agent empoisonnées — c'est ainsi que le modèle de menace est décrit dans le blog de RAFT sur Habr.

Comment le marché chinois de la sécurité de l'IA diffère-t-il des

marchés américain et israélien ?

Le problème est le même, mais le contexte est différent : une pile souveraine de matériel et de SO, une compréhension de l'IA sécurisée déterminée par le parti et un écosystème de produits inconnu en dehors du pays.

Pourquoi le marché chinois de la sécurité de l'IA est-il invisible de

l'extérieur ?

Parce que la moitié des produits n'ont même pas de pages d'accueil en anglais — RAFT note que le marché est opaque pour les observateurs externes, bien qu'à l'intérieur du pays l'industrie soit déjà mature.