Restrições de IA da OpenAI e da Anthropic atrapalham pesquisadores de cibersegurança

Em 23 de julho de 2026, o TechCrunch publicou uma reportagem sobre como as proteções (guardrails) dos modelos de linguagem da OpenAI e da Anthropic atrapalham o trabalho de pesquisadores de segurança ofensiva, especialistas que procuram vulnerabilidades ainda desconhecidas e desenvolvem ferramentas para explorá-las.

Por que os filtros de IA atrapalham os pentesters

Os modelos da OpenAI (ChatGPT) e da Anthropic (Claude) recusam cada vez mais ajuda em tarefas de segurança ofensiva, mesmo quando quem está ao teclado é um especialista "do bem". Segundo o TechCrunch, a publicação ouviu vários pesquisadores que trabalham profissionalmente com vulnerabilidades zero-day e escrevem exploits, e todos relatam a mesma coisa: os filtros tratam uma tarefa legítima de trabalho como tentativa de invasão.

O problema é que o pedido "escreva um código que explore esta vulnerabilidade" parece idêntico para o modelo, não importa quem o envie: o red team de uma empresa ou um criminoso. O modelo vê apenas o texto da solicitação, não a intenção nem o contrato de pentest.

• Veículo: TechCrunch; data de publicação: 23 de julho de 2026
• Modelos em foco: OpenAI (ChatGPT) e Anthropic (Claude)
• Quem foi ouvido: pesquisadores de segurança ofensiva (offensive security)
• Essência da queixa: os guardrails recusam ajuda na busca por vulnerabilidades e na escrita de exploits

Guardrails são regras de segurança embutidas no modelo que bloqueiam saídas potencialmente nocivas: instruções para fabricar armas, código malicioso ou formas de contornar proteções. A OpenAI e a Anthropic apresentam essas regras como elemento central de uma IA responsável, mas é justamente na fronteira com a segurança ofensiva que elas disparam de forma ampla demais.

Qual é o dilema do duplo uso

A segurança ofensiva é um exemplo clássico de tecnologia de duplo uso: as mesmas habilidades e ferramentas que protegem a infraestrutura também servem para quebrá-la. O red team simula um atacante para encontrar as brechas antes de um adversário real, e para isso precisa exatamente dos mesmos exploits, da emulação de malware e das técnicas de evasão de defesas.

Os guardrails da OpenAI e da Anthropic estão configurados para bloquear justamente essa classe de pedidos, porque os laboratórios não conseguem distinguir, em tempo real, um pesquisador de um criminoso. Como descreve o TechCrunch, os especialistas em segurança esbarram em recusas onde, até um ou dois anos atrás, o modelo ajudava de bom grado. Com isso, precisam contornar as restrições ou migrar para ferramentas menos regulamentadas.

As restrições de proteção da

OpenAI e da Anthropic atrapalham o trabalho de pesquisadores de segurança ofensiva: assim o TechCrunch resume o cerne do problema em sua reportagem de 23 de julho de 2026.

O que isso significa para a defesa

Filtros excessivamente rígidos não afetam apenas o lado atacante: eles também desaceleram a defesa. Se um red team legítimo não consegue usar um modelo de ponta no trabalho de rotina, perde velocidade, e o modelo perde utilidade para todo um segmento profissional. Segundo o TechCrunch, parte dos entrevistados está migrando para modelos open-weight locais ou para ferramentas de segurança especializadas, sem filtros corporativos, ao custo de qualidade e conveniência.

O resultado é um desequilíbrio: os criminosos já trabalham com modelos sem restrições (open-weight, versões "descensuradas", serviços clandestinos), enquanto quem fica de mãos atadas é justamente quem atua de forma legal e sob contrato. Pela lógica da reportagem do TechCrunch, o excesso de cautela da OpenAI e da Anthropic corre o risco de punir pesquisadores de boa-fé sem deter os de má-fé.

O que isso significa

A disputa sobre guardrails na segurança ofensiva é uma disputa sobre onde passa a linha entre "seguro por padrão" e "inútil para profissionais". Enquanto a OpenAI e a Anthropic não aprenderem a distinguir um pentest legítimo da preparação de um ataque, por exemplo por meio de verificação de organizações ou de modos especiais para equipes de segurança, os pesquisadores vão escolher as ferramentas que não os bloqueiam.