Sberbank y el equipo de Andrei Kurpatov crean una arquitectura contra las alucinaciones de la IA

Sberbank ha revelado un trabajo de investigación llamado «modelo de IA de la realidad psíquica humana». Participa el Laboratorio de Neurociencia y Comportamiento Humano, dirigido por Andrei Kurpatov, y el objetivo es ambicioso: dar a los agentes de IA una forma de hablar de la psique humana sin alucinaciones.

De qué trata la investigación

Según la descripción publicada, no se trata de una nueva función de chatbot, sino de un intento de describir la realidad psíquica humana en una forma comprensible para una máquina. Sber habla de un modelo con el que los sistemas de IA podrían trabajar como con un mapa interno de conceptos, vínculos y estados.

Esto es especialmente importante en tareas en las que no basta con elegir una respuesta estadísticamente verosímil: hay que mantener el contexto, la lógica y las relaciones causales en torno al comportamiento, la motivación y la percepción de una persona.

El hecho de que el proyecto lo lleve un laboratorio situado entre la neurociencia, la investigación del comportamiento y la IA indica el rumbo del trabajo. La intención no es simplemente reentrenar una red neuronal con un corpus de textos de psicología, sino apoyarse en una estructura más formal. Dicho de otro modo, el objetivo no es que el modelo hable con elegancia sobre el ser humano, sino que invente menos y no sustituya conexiones reales por interpretaciones cómodas pero falsas. En temas relacionados con la psique esto es crítico: un error de formulación se convierte fácilmente en un error de conclusión.

Cómo quieren reducir los errores

El detalle clave es la arquitectura de grafos. Normalmente se entiende como un sistema en el que el conocimiento no se representa como texto corrido, sino como nodos y vínculos entre ellos. Para los agentes de IA, esto puede ser una forma de contrastar las respuestas no solo con la probabilidad de la siguiente palabra, sino también con una estructura explícita de conceptos. Si el modelo razona sobre el miedo, la motivación, la atención o las distorsiones de la percepción, puede apoyarse en un mapa de relaciones entre estas entidades y no en asociaciones aleatorias de los datos de entrenamiento.

• fijar los conceptos y sus vínculos de forma explícita
• comprobar si una nueva conclusión contradice la estructura ya conocida
• conciliar entre sí las respuestas de varios agentes de IA
• reducir el riesgo de invenciones donde hace falta lógica causal y no retórica

De la formulación de Sber se desprende otro punto importante: la arquitectura está pensada específicamente para la interacción de los agentes entre sí. Ya no es un chatbot aislado, sino un entorno donde varios modelos o módulos intercambian juicios sobre una persona. En ese modo, el problema de las alucinaciones se agrava: un error puede multiplicarse rápidamente por toda la cadena. El esquema de grafos sirve como marco común que mantiene la conversación dentro de una lógica acordada.

Dónde podría ser útil

Si el enfoque funciona, podría aplicarse en sistemas de apoyo a la toma de decisiones, asistentes digitales, productos educativos y servicios que analizan el comportamiento del usuario. No se trata necesariamente de emitir diagnósticos. Mucho más cercano es un escenario aplicado en el que la IA ayuda a analizar la comunicación, las reacciones, los patrones motivacionales o los errores cognitivos, pero lo hace con más cautela y coherencia.

Para el mercado corporativo es especialmente interesante: las empresas necesitan agentes que no se limiten a repetir psicología popular, sino que sepan razonar dentro de un modelo dado y explicar de dónde sale una conclusión.

Sin embargo, de momento, públicamente se trata solo de una investigación. Sberbank no ha revelado cómo se evaluará la calidad de este sistema, qué conjuntos de datos o marcos de expertos se utilizan ni en qué productos aparecerá el resultado. Es una salvedad importante, porque combatir las alucinaciones es una de las tareas más difíciles de toda la pila de IA. Cualquier arquitectura puede mejorar la coherencia de una respuesta, pero eso todavía no garantiza que sea cierta. Por eso, la cuestión principal no es solo cómo representar el conocimiento sobre la psique, sino también cómo validarlo, actualizarlo y evitar trasladar al modelo los errores de los propios investigadores.

Qué significa

Sberbank muestra un giro interesante: en lugar de otro chatbot universal, la compañía explora un ámbito más estrecho pero complejo, donde para la IA importan la estructura, la coherencia y el control de errores. Si el enfoque de grafos funciona, podría dar al mercado una nueva clase de agentes que razonan sobre las personas con notable más cuidado que los LLM habituales.