Las restricciones de IA de OpenAI y Anthropic dificultan el trabajo de los investigadores de ciberseguridad

El 23 de julio de 2026, TechCrunch publicó un reportaje según el cual las restricciones de seguridad (guardrails) de los modelos de lenguaje de OpenAI y Anthropic dificultan el trabajo de los investigadores de ciberseguridad ofensiva: especialistas que buscan vulnerabilidades aún desconocidas y desarrollan herramientas para explotarlas.

Por qué los filtros de IA estorban a los pentesters

Los modelos de OpenAI (ChatGPT) y Anthropic (Claude) rechazan cada vez con más frecuencia ayudar en tareas de seguridad ofensiva, incluso cuando quien teclea es un profesional «de sombrero blanco». Según TechCrunch, el medio consultó a varios investigadores que se dedican profesionalmente a buscar vulnerabilidades de día cero y a escribir exploits, y todos coinciden en lo mismo: los filtros tratan una tarea de trabajo legítima como si fuera un intento de ataque.

El problema es que una petición como «escribe código que explote esta vulnerabilidad» tiene el mismo aspecto para el modelo, sin importar quién la envíe: el red team de una empresa o un atacante. El modelo solo ve el texto de la petición, no la intención ni el contrato de pentesting.

• Medio: TechCrunch; fecha de publicación: 23 de julio de 2026
• Modelos en el foco: OpenAI (ChatGPT) y Anthropic (Claude)
• A quién se consultó: investigadores de ciberseguridad ofensiva (offensive security)
• Esencia de la queja: los guardrails rechazan ayudar con la búsqueda de vulnerabilidades y la escritura de exploits

Los guardrails son reglas de seguridad integradas en el modelo que bloquean resultados potencialmente dañinos: instrucciones para fabricar armas, código malicioso o formas de eludir sistemas de protección. OpenAI y Anthropic los presentan como un elemento clave de la IA responsable, pero es justo en la frontera con la seguridad ofensiva donde las reglas se activan de forma demasiado amplia.

En qué consiste el dilema del doble uso

La ciberseguridad ofensiva es un ejemplo clásico de tecnología de doble uso: las mismas habilidades y herramientas que protegen la infraestructura sirven para atacarla. Un red team simula a un atacante para encontrar los agujeros antes que el adversario real, y para ello necesita exactamente los mismos exploits, la misma emulación de malware y las mismas técnicas de evasión de defensas.

Los guardrails de OpenAI y Anthropic están configurados para bloquear precisamente esa clase de peticiones, porque los laboratorios no pueden distinguir sobre la marcha a un investigador de un delincuente. Como describe TechCrunch, el resultado es que los especialistas en seguridad se topan con rechazos en casos en los que hace uno o dos años el modelo ayudaba sin problemas, y se ven obligados a sortear las restricciones o a recurrir a herramientas menos reguladas.

Las restricciones de seguridad de

OpenAI y Anthropic dificultan el trabajo de los investigadores de ciberseguridad ofensiva: así resume TechCrunch la esencia del problema en su reportaje del 23 de julio de 2026.

Qué riesgos supone para la defensa

Los filtros excesivos no solo afectan al lado atacante, sino que también frenan la defensa. Si un red team legítimo no puede usar un modelo de primer nivel para su trabajo rutinario, pierde velocidad, y el propio modelo pierde utilidad para todo un segmento profesional. Según TechCrunch, parte de los consultados está cambiando a modelos open-weight locales o a herramientas de seguridad muy especializadas que no tienen filtros corporativos, a costa de calidad y comodidad.

De ahí surge un desequilibrio: los atacantes ya trabajan con modelos sin restricciones (open-weight, versiones «sin censura», servicios clandestinos), mientras que quienes tienen las manos atadas son precisamente quienes actúan de forma legal y por contrato. Según la lógica del reportaje de TechCrunch, el exceso de cautela de OpenAI y Anthropic corre el riesgo de penalizar a los investigadores de buena fe sin detener a los de mala fe.

Qué significa

El debate sobre los guardrails en seguridad ofensiva es, en el fondo, un debate sobre dónde está la frontera entre «seguro por defecto» e «inútil para los profesionales». Mientras OpenAI y Anthropic no aprendan a distinguir un pentest legítimo de la preparación de un ataque (por ejemplo, mediante la verificación de organizaciones o modos especiales para equipos de seguridad), los investigadores elegirán las herramientas que no los bloqueen.