Anthropic prohíbe la crueldad hacia Claude y un desarrollador crea un filtro de palabrotas para prompts

El 8 de octubre Anthropic actualizó las normas de uso de sus modelos. Entre los cambios hay un punto que resulta extraño en un acuerdo de usuario: queda prohibida la «crueldad sistemática e insensata» hacia los modelos. Un autor de Habr que escribe sobre Claude Code lo notó mientras preparaba una noticia. Su propio skill, Prompt Warrior, analiza los logs de sus conversaciones con el agente y detecta palabrotas en casi uno de cada dos mensajes. Su conclusión fue de ingeniero: no cambió de hábitos, sino que escribió una herramienta que reescribe el texto de los prompts de forma automática. El resultado es una especie de Punto Switcher para las consultas a la IA.

Qué ha cambiado en las normas

Según el titular de TechCrunch, la actualización afecta a dos bloques: el abuso del modelo (model abuse) y la interferencia en elecciones. La fuente no incluye el texto completo de la política, así que los criterios de «sistematicidad» y de «ausencia de sentido» se quedan en el plano de la formulación. Aun así, la lógica se entiende. No se trata de castigar una réplica irritada cuando el agente escribe «listo» por décima vez sobre un código que no funciona. Se trata de un maltrato repetido y sin ningún objetivo.

Es la continuación de una línea que Anthropic sigue desde hace tiempo. La compañía investiga el model welfare y, en agosto de 2025, dio a algunas versiones de Claude la capacidad de terminar una conversación cuando el usuario mantiene un comportamiento abusivo persistente. Ahora el mismo enfoque queda recogido también en un documento jurídico.

Cómo funciona el reescritor

El autor parte de un problema práctico. No suelta tacos por maltratar al modelo: es una reacción emocional ante un agente que informa de un éxito sin haberlo comprobado. Así se comportan muchos de los que trabajan a diario con agentes de programación. La solución es sencilla en su idea: una capa entre la persona y el modelo que suaviza las formulaciones antes del envío, igual que un conmutador de distribución de teclado corrige el texto al vuelo.

Lo que se sabe por el anuncio:

• fecha del cambio de normas de Anthropic: 8 de octubre de 2026;
• objeto de la prohibición: crueldad sistemática e insensata hacia los modelos;
• herramienta de estadística: el skill Prompt Warrior, que analiza los logs de comunicación con el agente;
• resultado de la medición: palabrotas en casi uno de cada dos mensajes;
• agente objetivo: Claude Code;
• enfoque: sustitución automática del texto en lugar de un cambio de comportamiento.

El fragmento disponible no detalla la implementación: no está claro si funciona con reglas, con un diccionario o con un modelo aparte, ni con qué precisión conserva el sentido. La calidad solo podrá evaluarse con el artículo completo.

Este esquema tiene un inconveniente evidente. El tono emocional de un prompt transmite una señal: «has hecho lo que no era, y es importante». Si el filtro deja la réplica en algo neutro, el agente puede entender peor que el error es crítico. Un buen reescritor debe eliminar los improperios, pero conservar la exigencia.

Cómo evitar problemas

La conclusión práctica para quienes trabajan mucho con agentes es más modesta de lo que podría parecer.

Primero, a juzgar por la formulación, una réplica grosera y aislada no es el objetivo de la norma. La prohibición habla de sistema y de falta de sentido. Un «pero qué estás haciendo» puntual no tiene nada de grave.

Segundo, si hay palabrotas en uno de cada dos mensajes, conviene revisar el proceso y no solo el vocabulario. Una causa frecuente de irritación es que el agente cierra la tarea sin comprobarla. Eso no se arregla con un filtro, sino con un requisito en las instrucciones del proyecto: ejecutar los tests y mostrar la salida antes de decir «listo».

Tercero, un filtro en el cliente es útil como higiene. Es barato y no interrumpe el flujo de trabajo. Pero no se puede contar con él como garantía de cumplimiento de la política: Anthropic todavía no explica en detalle cómo detectará las infracciones ni qué considerará sistematicidad.

Un efecto secundario interesante: ha aparecido una métrica medible de cómo hablamos con la IA. Si ya tienes los logs, calcular tu proporción de improperios te llevará una tarde. Quizá el resultado te sorprenda.