Balanço de 2025 em segurança de IA: de backdoors a ameaças de agentes

Balanço de 2025 em segurança de IA: de backdoors a ameaças de agentes

No início de 2026, pesquisadores russos de destaque em segurança de inteligência artificial se reuniram para fazer o balanço do ano anterior e discutir suas principais tendências. Entre os especialistas estavam Artem Semenov (PWN AI), Boris Zakhir (Boris_ь с ml), Evgeny Kokuikin (HiveTrace, Evgeny Kokuikin - Raft) e Vladislav Tushkanov (llm security, kalany). Eles compartilharam suas observações sobre a rápida transformação da indústria.

A discussão girou em torno da ineficácia dos mecanismos de defesa tradicionais e da crescente sofisticação dos ataques a sistemas de IA. Deram atenção especial a novos tipos de ameaça, como os backdoors LoRA, e aos desafios crescentes no controle de agentes de IA autônomos. A principal conclusão dos participantes é que a segurança absoluta em IA é inalcançável, e que qualquer sistema de defesa atual é um meio-termo complexo entre desempenho e minimização dos vetores de ataque.

2025 foi um ano de virada para a indústria de segurança de IA. Antes, o foco estava em ataques relativamente simples, que contornavam filtros padrão para obter respostas indesejadas dos modelos. Agora, observa-se a transição para métodos mais complexos e discretos. Os especialistas notaram que os "guardrails" clássicos, mecanismos criados para limitar o comportamento da IA, muitas vezes se mostram ineficazes contra ataques direcionados. Paradoxalmente, o custo desses ataques caiu graças a novas ferramentas e metodologias, o que os torna acessíveis a um círculo maior de criminosos. Os pesquisadores destacaram que os desenvolvedores de sistemas de IA vivem uma corrida armamentista constante: tentam antecipar e bloquear novos vetores de ameaça enquanto os atacantes se adaptam e encontram novas vulnerabilidades.

Um dos temas mais discutidos foram os backdoors LoRA. Esse tipo de ameaça, relativamente novo, consiste em vulnerabilidades ocultas inseridas nos modelos na etapa de ajuste fino (fine-tuning) com técnicas de Low-Rank Adaptation (LoRA). Diferentemente dos backdoors tradicionais, que podem ser mais evidentes, os backdoors LoRA costumam passar despercebidos e podem ser ativados apenas sob determinadas condições ou consultas.

Eles podem ser usados para roubar dados, manipular as saídas do modelo ou até derrubar um sistema por completo. Os pesquisadores destacaram que detectar esses mecanismos ocultos exige uma análise profunda da arquitetura e do comportamento do modelo, o que complica bastante a defesa. Os agentes de IA autônomos foram outra fonte de preocupação.

À medida que esses agentes se tornam mais complexos e mais capazes de executar tarefas por conta própria, controlar suas ações passa a ser um problema crítico. O comportamento deles pode ser imprevisível, e a capacidade de autoaprendizado e adaptação pode levar a consequências imprevistas, difíceis ou impossíveis de controlar. Os especialistas manifestaram o receio de que, no futuro, agentes autônomos possam se tornar uma ferramenta poderosa nas mãos de criminosos.

As consequências dessas tendências para a indústria de segurança de IA são variadas. Primeiro, as abordagens tradicionais de segurança deixam de ser suficientes. São necessários métodos novos e mais sofisticados de detecção e prevenção de ameaças, que levem em conta as particularidades dos modelos de IA atuais.

Segundo, cresce o papel do conhecimento especializado e da compreensão profunda de como a IA funciona. Combater as novas ameaças exige não só habilidades técnicas, mas também raciocínio analítico e capacidade de previsão. Terceiro, é preciso repensar o próprio conceito de "segurança de IA".

Como destacaram os participantes, a segurança absoluta não existe. Todo sistema de defesa é um meio-termo entre o nível de segurança, o desempenho do sistema e a facilidade de uso. O desafio é encontrar o equilíbrio ideal, minimizando ao mesmo tempo os riscos potenciais.

Em conclusão, 2025 mostrou que a segurança da inteligência artificial é uma área dinâmica e em constante evolução. As ameaças ficam cada vez mais sofisticadas, e os métodos tradicionais de defesa perdem eficácia. O surgimento dos backdoors LoRA e o aumento do número de agentes de IA autônomos colocam para pesquisadores e desenvolvedores desafios novos e complexos.

A principal lição foi entender que buscar a segurança absoluta é uma utopia. Em vez disso, o foco deve migrar para o desenvolvimento de sistemas de defesa flexíveis e adaptativos, capazes de enfrentar um cenário de ameaças em mudança constante, aceitando que os meios-termos são inevitáveis. O futuro da segurança de IA será definido pela capacidade do setor de inovar e se antecipar, além de sua disposição para aprender e se adaptar continuamente.