Ограничения ИИ от OpenAI и Anthropic мешают исследователям кибербезопасности

TechCrunch publicou, em 23 de julho de 2026, uma matéria sobre como as barreiras de proteção (guardrails) dos modelos de linguagem da OpenAI e da Anthropic estão atrapalhando o trabalho de pesquisadores de cibersegurança ofensiva — especialistas que buscam vulnerabilidades ainda desconhecidas e desenvolvem ferramentas para explorá-las.

Por que os filtros de IA atrapalham os pentesters

Os modelos da OpenAI (ChatGPT) e da Anthropic (Claude) estão cada vez mais se recusando a ajudar em tarefas de segurança ofensiva, mesmo quando quem está no teclado é um especialista "do bem" (white hat). Segundo a TechCrunch, o veículo entrevistou vários pesquisadores que buscam profissionalmente vulnerabilidades de dia zero e escrevem exploits — e todos dizem a mesma coisa: os filtros disparam diante de uma tarefa de trabalho legítima como se fosse uma tentativa de invasão.

O problema é que um pedido como "escreva um código que explore esta vulnerabilidade" parece igual para o modelo, independentemente de quem o enviou: o red team de uma empresa ou um invasor. O modelo só vê o texto do pedido, não a intenção nem o contrato de pentest por trás dele.

• Veículo — TechCrunch, data de publicação — 23 de julho de 2026
• Modelos em foco — OpenAI (ChatGPT) e Anthropic (Claude)
• Quem foi entrevistado — pesquisadores de cibersegurança ofensiva (offensive security)
• O cerne da reclamação — os guardrails se recusam a ajudar na busca de vulnerabilidades e na escrita de exploits

Guardrails são regras de segurança embutidas no modelo que bloqueiam resultados potencialmente maliciosos: instruções para fabricar armas, código malicioso ou formas de burlar defesas. A OpenAI e a Anthropic os apresentam como um elemento-chave da IA responsável, mas é justamente na fronteira com a segurança ofensiva que as regras disparam de forma abrangente demais.

Qual é o dilema do duplo uso

A cibersegurança ofensiva é um exemplo clássico de tecnologia de duplo uso: as mesmas habilidades e ferramentas que protegem a infraestrutura também podem quebrá-la. Um red team imita um invasor para encontrar as brechas antes de um adversário real — e, para isso, precisa exatamente dos mesmos exploits, da emulação de malware e das técnicas de evasão de defesas.

Os guardrails da OpenAI e da Anthropic estão configurados para bloquear justamente essa classe de pedidos, porque os laboratórios não conseguem diferenciar na hora um pesquisador de um criminoso. Como resultado, como descreve a TechCrunch, os profissionais de segurança esbarram em recusas justamente onde, um ou dois anos atrás, o modelo ajudava de bom grado, e são obrigados a contornar as restrições ou migrar para ferramentas menos regulamentadas.

As barreiras de proteção da

OpenAI e da Anthropic atrapalham o trabalho dos pesquisadores de cibersegurança ofensiva — assim a essência do problema é formulada na matéria da TechCrunch de 23 de julho de 2026.

O que isso significa para a defesa

Filtros excessivamente apertados não atingem só o lado atacante — eles também atrasam a defesa. Se um red team legítimo não consegue usar um modelo de ponta para o trabalho de rotina, ele perde velocidade, e o próprio modelo perde utilidade para todo um segmento profissional. Parte dos entrevistados, segundo a TechCrunch, está migrando para modelos locais open-weight ou para ferramentas de segurança altamente especializadas que não têm filtros corporativos — ao custo da qualidade e da conveniência.

Depois surge um desequilíbrio: os invasores já trabalham com modelos sem restrições (versões open-weight, builds "sem censura", serviços clandestinos), enquanto quem fica de mãos atadas é justamente quem age de forma legal e sob contrato. Seguindo a lógica da matéria da TechCrunch, o excesso de cautela da OpenAI e da Anthropic corre o risco de punir pesquisadores de boa-fé sem deter os de má-fé.

O que isso significa

O debate sobre os guardrails na segurança ofensiva é um debate sobre onde fica a linha entre "seguro por padrão" e "inútil para os profissionais". Enquanto a OpenAI e a Anthropic não aprenderem a distinguir um pentest legítimo da preparação de um ataque — por exemplo, por meio da verificação de organizações ou de modos especiais para equipes de segurança —, os pesquisadores continuarão escolhendo as ferramentas que não os bloqueiam.