La Constitución de Anthropic: Claude ahora se rige por reglas (y es importante)

Imagine que crea algo potencialmente más inteligente que usted e intenta explicarle qué está «bien» y qué está «mal». No es el guion de una superproducción de Hollywood, sino el día a día de Anthropic. Mientras el sector discute cuántas tarjetas gráficas hacen falta para ser feliz, los creadores de Claude eligieron otro camino y escribieron una auténtica Constitución para su red neuronal. No es una simple lista de palabras prohibidas ni filtros rígidos de entrada. Es un intento de incorporar al código algo parecido a una conciencia, que debería funcionar incluso cuando los desarrolladores miran hacia otro lado.

Anthropic se posicionó desde el principio como un «laboratorio de seguridad», fundado por antiguos miembros de OpenAI que discreparon de Sam Altman en materia de comercialización y ética. Desde entonces, la empresa de Dario Amodei ha construido metódicamente la imagen del actor más responsable del mercado. Publicar el texto de la Constitución no es solo un gesto de buena voluntad, sino un jaque estratégico en la gran partida por influir en los gobiernos del mundo. Cuando los reguladores de Washington o Bruselas preguntan cómo vamos a controlar una futura superinteligencia, Anthropic ya tiene la respuesta en forma de documento. No se limita a entrenar un modelo: intenta llegar a un acuerdo con él, fijando un marco claro de convivencia.

El enfoque se basa en la tecnología Constitutional AI. A diferencia del habitual aprendizaje por refuerzo a partir de retroalimentación humana (RLHF), en el que personas reales dedican horas a etiquetar las respuestas de la red neuronal, Anthropic usa el propio modelo para autoeditarse. El proceso resulta casi filosófico: se entrega al modelo una lista de principios, desde la Declaración Universal de los Derechos Humanos de la ONU hasta las normas de protección de datos de Apple, y se le pide que critique sus propios borradores según esas normas.

Así, Claude aprende no solo a imitar las preferencias humanas, sino a seguir la lógica de los valores que se le han inculcado. Esto evita a la empresa mantener un ejército de moderadores mal pagados en países en desarrollo, lo cual ya es en sí mismo un movimiento ético de peso.

¿Para qué le sirve esto al sector? En primer lugar, es escalable. El recurso humano es limitado, mientras que una red neuronal puede analizar sus errores sin límite. En segundo lugar, hace que el comportamiento del modelo sea más predecible y transparente. Si Claude se niega a responder una pregunta, no lo hace por capricho del algoritmo, sino porque un punto concreto de la Constitución le prohíbe vulnerar la privacidad o fomentar la violencia. Eso crea una base de confianza, crítica para el sector empresarial. Las empresas no quieren una IA que pueda soltar de pronto algo políticamente incorrecto o peligroso. Quieren una herramienta con límites de responsabilidad bien definidos.

Sin embargo, tras las bonitas palabras sobre seguridad hay una dura lucha por el liderazgo. En sus últimos ensayos, Dario Amodei insinúa abiertamente que estamos en un punto crítico del desarrollo de la civilización, al que llama la «adolescencia de la tecnología». Anthropic intenta arrebatar a OpenAI el papel de principal centro intelectual que fija las reglas del juego. Si OpenAI es una startup agresiva que quiere dar a la gente una herramienta para todo, Anthropic es una especie de «adulto en la sala» que insiste en que el poder sin control carece de sentido y es peligroso.

Curiosamente, la Constitución se revisa de forma constante. Es un documento vivo que refleja los miedos y las esperanzas actuales de la sociedad. Incluye puntos sobre la inadmisibilidad de la discriminación, la importancia de ofrecer información objetiva e incluso sobre cómo debe comportarse una IA cuando los valores humanos entran en conflicto. Recuerda al intento de crear un ciudadano digital ideal que siempre sigue la letra de la ley, pero tiene inteligencia suficiente para entender su espíritu. En última instancia, el éxito de Anthropic dependerá de que los usuarios crean en esta «moral artificial» o la consideren solo una capa más de censura corporativa.

La clave: ¿se convertirá la Constitución de Anthropic en un estándar universal para todos los LLM, o veremos una guerra de «morales corporativas», donde cada modelo tendrá sus propias nociones del bien y del mal?