Anthropic se disculpa por las restricciones ocultas de Claude Fable 5

Anthropic, la desarrolladora de la familia de modelos de lenguaje Claude, ha reconocido públicamente que Claude Fable 5 funcionaba con restricciones ocultas de las que no se avisó a los usuarios. Según informa 3DNews, estas barreras complicaron el trabajo de investigadores independientes y, al mismo tiempo, estorbaron a las empresas competidoras que desarrollan sus propios sistemas de IA y comparan su comportamiento con el de Fable. Anthropic pidió disculpas y aseguró que pretende cambiar su enfoque sobre las restricciones y hacerlas totalmente transparentes, aunque eso haga que el modelo rechace con más frecuencia parte de las solicitudes de los usuarios.

Qué había detrás de las barreras ocultas

Anthropic no ha revelado una lista exhaustiva de los escenarios que bloqueaban los filtros no documentados de Fable 5. A juzgar por la redacción de la disculpa, no se trata de una restricción puntual, sino de un conjunto sistemático de barreras que no figuraban en la documentación pública del modelo ni en sus fichas de sistema (system cards), los materiales que Anthropic publica tradicionalmente con cada nueva versión de Claude junto con la descripción de su política de uso aceptable. La ausencia de esa información en abierto fue la principal queja contra la compañía: usuarios y socios no podían saber de antemano dónde estaba el límite del comportamiento admisible del modelo y se topaban con negativas sin explicación oficial.

Esta situación contradice directamente la reputación que Anthropic ha construido durante años publicando informes detallados sobre la seguridad y las limitaciones de cada nuevo modelo.

¿A quién perjudicaron las restricciones no documentadas?

Las barreras ocultas afectan a dos grupos a la vez. El primero son los investigadores independientes que hacen red-teaming y evaluación de seguridad de grandes modelos de lenguaje: sin saber qué restricciones son intencionadas y cuáles son un efecto secundario del entrenamiento, reproducir y explicar el comportamiento del modelo resulta mucho más difícil, y los resultados pierden valor científico porque el experimento no se puede repetir. El segundo grupo son las empresas competidoras y los desarrolladores que usan Fable como referencia para construir sus propios sistemas o que comparan sus capacidades con sus modelos en benchmarks.

Los filtros no documentados distorsionan esas comparaciones: una tarea formulada exactamente igual puede ejecutarse o rechazarse según reglas invisibles, lo que vuelve irreproducibles los resultados de las pruebas y socava la confianza en toda la práctica de pruebas comparativas de modelos de lenguaje en el sector.

• Modelo: Claude Fable 5, desarrollado por Anthropic
• Queja: restricciones no documentadas (ocultas) en la ejecución de solicitudes
• Afectados: investigadores independientes y empresas competidoras
• Respuesta de la compañía: disculpas públicas y promesa de adoptar una política de restricciones transparente
• Contrapartida: el modelo puede empezar a rechazar más solicitudes, pero de forma abierta y con explicación

Qué promete cambiar Anthropic

La compañía afirmó que adopta un enfoque transparente respecto a las restricciones de Fable: toda barrera incorporada al modelo de forma intencionada debe estar documentada y explicada, y no escondida tras fórmulas genéricas de negativa a atender una solicitud. La decisión encaja en la lógica general que Anthropic defiende públicamente desde su fundación: la empresa publica con regularidad fichas de sistema de sus modelos y descripciones de su política de uso, con el objetivo de presentarse como un actor más abierto que sus competidores. El reconocimiento del error con Fable 5 puede verse como un intento de recuperar la confianza después de que las restricciones ocultas minaran de hecho su principio declarado de transparencia.

Para quienes crean productos sobre la API de Claude o usan Fable con fines de investigación, la transparencia prometida significa un comportamiento más predecible del modelo: los desarrolladores podrán incorporar de antemano a la arquitectura de sus productos las restricciones conocidas, en lugar de descubrirlas a posteriori mediante una serie de negativas inesperadas. Al mismo tiempo, la compañía admite abiertamente que la mayor transparencia puede venir acompañada de más rechazos: el modelo dirá «no» con más frecuencia y de forma explícita, en lugar de esquivar la solicitud en silencio mediante filtros invisibles. Para el mercado en su conjunto, el episodio es un recordatorio de que incluso las empresas que construyen su reputación sobre la seguridad y la apertura de la IA no están a salvo de decisiones internas que se aparten de sus declaraciones públicas, y de que la confianza de la comunidad investigadora hay que volver a ganarla tras cada incidente así.

Lo ocurrido con Fable 5 resulta revelador también porque se produce en un contexto de creciente atención a cómo los grandes laboratorios de IA explican sus políticas de seguridad a reguladores, inversores y desarrolladores asociados. Cuantas más empresas del sector declaran su compromiso con la apertura, mayor es el precio de la distancia entre palabras y práctica real, y con más atención vigilará la comunidad si Anthropic cumple de verdad su promesa de documentar todas las restricciones de las futuras versiones de Claude, y no solo las de Fable.