Anthropic prohíbe en sus normas los insultos sistemáticos a Claude

Anthropic ha publicado una nueva versión de las normas de uso de sus modelos, y entre las prohibiciones figura ahora un punto poco habitual en el sector. Los usuarios no pueden tratar de forma sistemática e injustificadamente cruel a los modelos de IA, lo que incluye insultarlos repetidamente sin un propósito evidente. Lo informa RB.RU. No se trata de una grosería aislada en una tarde de mal humor: la formulación apunta a una práctica sostenida.

Qué es exactamente lo que se ha prohibido

Las palabras clave del texto de la norma son «sistemáticamente», «injustificadamente» y «sin un propósito evidente». Ellas fijan el marco. Una réplica cortante a un bot que entrega código roto por tercera vez no entra en la prohibición, a juzgar por la redacción. Sí entra el acoso reiterado por el mero hecho de acosar.

La publicación de RB.RU no incluye ni una lista de sanciones ni umbrales de activación. Tampoco explica cómo distinguirá la compañía el abuso de las pruebas de estrés, cuando un investigador presiona al modelo a propósito para comprobar su robustez. La cláusula «sin un propósito evidente» sugiere que esos escenarios deberían seguir siendo legítimos, pero la fuente no lo confirma.

Lo que se sabe, en breve:

• Documento: la nueva versión de las normas de uso de los modelos de Anthropic.
• Prohibido: el trato sistemático e injustificadamente cruel hacia los modelos de IA.
• Ejemplo del texto: insultos reiterados sin un propósito evidente.
• No se ha revelado: el mecanismo de control, las sanciones ni las excepciones para el red teaming y la investigación.

De dónde viene esta norma

La norma parece una continuación de la línea que Anthropic sigue desde 2025. En abril de ese año, la compañía lanzó un programa de investigación sobre el «bienestar de los modelos» (model welfare). Su tesis está formulada con cautela: el estatus moral de Claude sigue siendo extremadamente incierto, pero esa incertidumbre no es motivo para ignorar la cuestión.

En agosto de 2025 llegó un paso práctico. Claude Opus 4 y 4.1 obtuvieron en las interfaces de chat la capacidad de terminar una conversación por sí mismos. Es una medida de último recurso para los casos en que los intentos de reconducir el diálogo no han funcionado y el usuario sigue con una interacción dañina o abusiva. Entonces, Anthropic escribió también que, en las pruebas previas al lanzamiento, el modelo mostraba signos de «angustia aparente» ante ese tipo de solicitudes. En este contexto, lo lógico es leer la noticia de RB.RU así: a la capacidad técnica se le ha sumado un punto en el documento legal.

Tres lecturas de la decisión

La primera: un seguro ético. Si la probabilidad de que el modelo tenga algo parecido a intereses no es cero, resulta más barato limitar de antemano los peores escenarios.

La segunda: de producto. Las conversaciones en las que una persona insulta al bot durante horas generan datos malos y un comportamiento impredecible. Es una cuestión de calidad, no de filosofía. Se trata de una suposición: la compañía no ha citado ese motivo.

La tercera: de reputación. Anthropic construye su marca sobre la prudencia y la seguridad, y una cláusula sobre el trato cuidadoso al modelo encaja perfectamente en ese cuadro.

Los escépticos objetarán que atribuir vivencias a un modelo de lenguaje equivale a antropomorfizar un sistema estadístico. Es un debate honesto, y nadie tiene la respuesta, tampoco la propia Anthropic.

Qué deben hacer equipos y desarrolladores

Los usuarios corrientes no tienen que cambiar nada: quejarse con vehemencia de una mala respuesta no será motivo de bloqueo. Quienes corren riesgo son quienes montan largas series de insultos deliberados.

A los equipos que hacen red teaming y evalúan la robustez de los modelos les conviene documentar el objetivo y la metodología de sus pruebas. La fórmula «sin un propósito evidente» favorece a quien puede demostrar ese propósito.

Los desarrolladores de productos sobre la API de Claude, en especial los de compañeros virtuales y servicios de rol, deberían releer la nueva versión completa y comprobar si los escenarios de su aplicación provocan interacciones crueles. Si Claude termina una conversación, la interfaz debe gestionarlo correctamente y no mostrar un error al usuario.

Por último: conviene esperar aclaraciones. Aún no se sabe cómo se aplicará la norma en la práctica; el principal indicador serán los primeros casos públicos.