Indústria de segurança de IA na China chega ao nível de EUA e Israel, diz o Habr

O mercado de AI Security na China é opaco para o observador externo — metade dos produtos nem tem uma landing page em inglês —, mas nos últimos anos cresceu ali uma indústria que se aproximou em maturidade dos players americanos e israelenses de segurança da informação. Quem conta é a empresa RAFT, em seu blog no Habr.

Que problemas o AI Security chinês resolve

A tarefa de proteger a IA na China é exatamente a mesma de qualquer lugar do mundo: são necessários guardrails que verifiquem a entrada e a saída do modelo, sistemas de monitoramento e uma proteção específica para agentes de IA, que já não apenas respondem com texto, mas circulam por ferramentas, arquivos e APIs corporativas. Isso significa que o crescimento do mercado chinês de AI Security não veio de uma formulação do problema fundamentalmente diferente, mas da mesma demanda por segurança de agentes que existe no Ocidente.

• Metade dos produtos do mercado chinês de AI Security nem tem landing page em inglês
• Nos últimos anos, cresceu ali uma indústria completa, próxima em maturidade dos mercados dos EUA e de Israel
• A proteção agora é necessária não só para os modelos, mas também para os agentes que trabalham com ferramentas, arquivos e APIs corporativas

Que ameaças a China combate

O modelo de ameaças na China é familiar a qualquer especialista em AI Security: injeções de prompt, vazamentos de dados e segredos, uso indevido de ferramentas e skills de agentes envenenadas.

“Visto de fora, o mercado chinês de AI

Security não é transparente: metade dos produtos nem tem landing page em inglês, enquanto por dentro, nos últimos dois anos, cresceu uma indústria completa, próxima em maturidade dos players americanos e israelenses de segurança da informação”, diz o blog da RAFT no Habr.

Qual é a diferença para o mercado ocidental

Com uma tarefa semelhante, a diferença entre os mercados chinês e ocidental de AI Security está no contexto: uma pilha soberana de hardware e sistemas operacionais, uma concepção de IA segura definida pelo partido e todo um ecossistema de produtos de que quase ninguém fora da China ouviu falar.

Isso significa que até um especialista que conhece bem os mercados americano e israelense de AI Security, no primeiro contato com o setor chinês, vai se deparar com nomes de produtos desconhecidos e soluções feitas para outra pilha de hardware e sistemas operacionais, embora as tarefas básicas de proteção continuem as mesmas.

O que isso significa

A indústria de proteção de IA se desenvolve em paralelo em diferentes blocos tecnológicos: na China, ela chegou a um nível comparável ao dos EUA e de Israel e apenas segue invisível de fora por causa da barreira de idioma e de infraestrutura.

Perguntas frequentes

Quais ameaças são relevantes para agentes de IA na

China e no mundo?

As mesmas em toda parte: injeções de prompt, vazamentos de dados e segredos, uso indevido de ferramentas e skills de agentes envenenadas. É assim que o blog da RAFT no Habr descreve o modelo de ameaças.

Em que o mercado chinês de AI

Security difere do americano e do israelense?

A tarefa é a mesma, mas o contexto é outro: uma pilha soberana de hardware e sistemas operacionais, uma concepção de IA segura definida pelo partido e um ecossistema de produtos desconhecido fora do país.

Por que o mercado chinês de AI

Security passa despercebido de fora?

Porque metade dos produtos nem tem landing page em inglês. A RAFT observa que o mercado é opaco para o observador externo, embora dentro do país a indústria já seja madura.