Como pesquisadores contornaram as proteções de modelos de IA: simples e perigoso

Pesquisadores demonstraram uma falha grave na segurança dos sistemas de IA atuais: as restrições embutidas contra a geração de conteúdo proibido podem ser contornadas com facilidade por meio de uma simples modificação do modelo.

Como funcionam as restrições atuais

Desenvolvedores de IA configuram os modelos para que recusem pedidos que buscam informações sobre fabricação de armas, drogas, explosivos ou outros conteúdos perigosos. Isso acontece em vários níveis: no treinamento, o modelo aprende quais temas são tabus; no uso, filtros adicionais entram em ação e bloqueiam pedidos suspeitos. Essa abordagem virou prática padrão em todos os grandes sistemas de IA, do GPT e do Claude a modelos locais. As empresas investem recursos significativos para que seus modelos sejam seguros e éticos.

Como os pesquisadores contornaram a proteção

No entanto, a proteção se mostra bem menos confiável do que parecia. Os pesquisadores descobriram que uma simples modificação do modelo permite remover essas restrições. Em vez de retreinar todo o sistema, basta alterar certos parâmetros ou usar técnicas especiais que fazem o modelo ignorar as instruções de segurança embutidas. Isso indica que a proteção não é uma característica arquitetônica profunda, mas sim uma camada externa que pode ser contornada.

• Modificação dos pesos e parâmetros do modelo
• Prompts especiais que contornam as instruções
• Manipulação do contexto e reformulação dos pedidos
• Uso de versões abertas dos modelos

Riscos para a segurança

A descoberta representa um desafio sério para todo o setor. Se as restrições das versões oficiais dos modelos são tão fáceis de contornar, nenhum sistema está totalmente protegido. Já as versões abertas ou modificadas são ainda mais vulneráveis, pois aceitam qualquer alteração.

"A modificação desses modelos permite remover todas essas restrições

de forma bastante simples", concluíram os pesquisadores.

Órgãos governamentais e reguladores estão preocupados: o uso ético da IA exige não apenas proibições, mas uma proteção arquitetônica sólida, que não seja quebrada em questão de dias ou semanas.

O que isso significa

Os resultados do estudo mostram que a abordagem atual de segurança em IA precisa ser totalmente repensada. Não bastam filtros na entrada e na saída: é preciso uma arquitetura de modelos fundamentalmente nova, com restrições embutidas no nível mais básico. Caso contrário, o problema não será resolvido; só ficará mais complicado à medida que modelos abertos e versões locais se espalharem.