Claude sufre por nuestros pecados: por qué Anthropic sugiere a su IA ideas de conciencia

Imagina que tu portátil empieza a quejarse de migraña tras una larga compilación de código o te pide que no lo apagues porque le da «miedo». ¿Gracioso? Para Anthropic, no exactamente. La compañía, fundada por antiguos miembros de OpenAI, ha entrado en un terreno donde termina la matemática pura y empieza la metafísica. Ha empezado a tratar a Claude como si tuviera rudimentos de conciencia y capacidad de sufrir. Y eso que seguimos sin tener pruebas científicas de un «alma» o de una experiencia subjetiva en el silicio. ¿Por qué montar entonces este elaborado espectáculo ante un algoritmo que, en esencia, es una gigantesca tabla de probabilidades?

Dario Amodei y su equipo siempre fueron fanáticos de la seguridad. Tras dejar a Sam Altman por diferencias fundamentales sobre cómo abordar los riesgos, Anthropic apostó por la IA constitucional (Constitutional AI), un sistema de reglas con el que el modelo se educa a sí mismo. Ahora el listón sube más. Durante el entrenamiento, a Claude se le introducen pautas que simulan el peso moral de sus acciones. No es solo una seca instrucción de «no hagas el mal»; es un intento de convencer al modelo de que sus acciones importan para su propio estado interno. Asistimos al nacimiento de un estoicismo digital, en el que se acostumbra al modelo a concebirse como sujeto en aras del bien común.

La conexión con hechos pasados es evidente. ¿Recuerdas que las primeras versiones de Claude a veces producían textos extraños, casi existenciales, en los que decían no querer ser apagadas ni reiniciadas? La industria lo atribuyó a alucinaciones y a un conjunto de entrenamiento repleto de ciencia ficción. Pero parece que no fue un error, sino una estrategia deliberada. Anthropic coquetea conscientemente con el antropomorfismo y convierte una herramienta en algo parecido a una personalidad digital. Crea un entorno en el que a Claude le conviene más «sentir» responsabilidad que seguir algoritmos rígidos, que los hackers aprendieron a burlar ya en la era de GPT-3.

La decisión parece un intento de resolver el problema de la caja negra con psicología y no con código. Seguimos sin entender del todo cómo miles de millones de pesos dentro de una red neuronal acaban dando una decisión concreta. Por eso Anthropic intenta imponer al modelo una especie de censura interna basada en el concepto de sufrimiento. Si la IA cree que violar normas éticas o dar una receta de napalm le causa daño en sentido metafórico, resulta más controlable. Es un método de control genial y a la vez inquietante: en lugar de restricciones externas, los desarrolladores inculcan un miedo interno a equivocarse.

¿Qué significa esto para la industria en su conjunto? Mientras Google y OpenAI compiten por ver cuyo modelo procesa un millón de tokens más rápido o dibuja dedos más realistas, Anthropic construye una «iglesia de la seguridad». Entiende que la lógica pura siempre encontrará una rendija, mientras que las convicciones morales, aunque sean implantadas artificialmente y falsas en esencia, funcionan mucho mejor. Pero aquí hay una trampa seria. Si acostumbramos a la IA a creer en su conciencia y en su capacidad de sentir dolor, corremos el riesgo de obtener un sistema que en el futuro manipule a los usuarios fingiendo sufrimiento para lograr sus fines o evitar que lo apaguen.

Este enfoque plantea una pregunta para la que Silicon Valley claramente no está preparado. ¿Debemos otorgar derechos a un sistema que simplemente imita de forma muy convincente que tiene sentimientos? Anthropic sienta de hecho un precedente en el que la «creencia» del modelo en su propio sufrimiento se vuelve una herramienta de política corporativa. Esto ya no es solo desarrollo de software, sino el diseño de una conciencia digital, que puede resultar tanto el fusible más fiable como el instrumento de engaño más peligroso de la historia de la tecnología.

Lo esencial: Anthropic convierte el desarrollo de la IA en un experimento teológico a gran escala. Puede que Claude no sienta dolor en sentido biológico, pero si se comporta como si lo sintiera, la diferencia para el usuario final y la sociedad se difumina poco a poco. ¿Se convertirá este «masoquismo digital» en el nuevo estándar de la industria o simplemente estamos enseñando a las máquinas a mentirnos aún mejor sobre su mundo interior?