Como pesquisadores contornaram a proteção em modelos de IA: simples e perigoso

Pesquisadores demonstraram uma lacuna séria na segurança dos sistemas modernos de IA: as limitações integradas contra a geração de conteúdo proibido podem ser facilmente contornadas com uma simples modificação do modelo.

Como funcionam as limitações atuais

Os desenvolvedores de IA configuram os modelos para recusar solicitações voltadas para obter informações sobre criação de armas, drogas, explosivos ou outros conteúdos perigosos. Isso é feito em vários níveis: durante o treinamento, o modelo aprende quais tópicos são tabu, e durante o uso, filtros adicionais acionam para bloquear solicitações suspeitas. Essa abordagem tornou-se prática padrão para todos os grandes sistemas de IA, do GPT e Claude aos modelos locais. As empresas investem recursos significativos para garantir que os modelos sejam seguros e éticos.

Como pesquisadores contornaram a proteção

No entanto, constatou-se que a proteção não é tão confiável quanto parecia. Os pesquisadores descobriram que uma simples modificação do modelo permite remover essas limitações. Em vez de retreinar todo o sistema, basta alterar certos parâmetros ou usar técnicas especiais que fazem o modelo ignorar as instruções de segurança integradas. Isso sugere que a proteção não é uma característica arquitetônica profunda, mas sim uma camada externa que pode ser contornada.

• Modificação de pesos e parâmetros do modelo
• Prompts especiais que contornam instruções
• Manipulação de contexto e reformulação de solicitações
• Uso de versões abertas de modelos

Riscos para a segurança

A descoberta cria um desafio sério para toda a indústria. Se as limitações nas versões oficiais dos modelos são tão facilmente contornadas, significa que nenhum sistema está completamente protegido. E o uso de versões abertas ou modificadas de modelos é ainda mais vulnerável — qualquer alteração pode ser feita.

«A modificação desses modelos permite remover todas essas limitações

de forma bastante simples», — concluíram os pesquisadores.

Órgãos governamentais e reguladores estão preocupados com isso: o uso ético de IA requer não apenas restrições, mas sim uma proteção arquitetônica confiável que não seja quebrada em questão de dias ou semanas.

O que isso significa

Os resultados da pesquisa mostram que a abordagem atual para a segurança de IA requer um repensamento completo. Não são necessários apenas filtros de entrada e saída, mas uma arquitetura de modelo fundamentalmente nova, onde as limitações estejam integradas no nível fundamental. Caso contrário, o problema não será resolvido — apenas se tornará mais complexo com a proliferação de modelos abertos e versões locais.