Sberbank y el equipo de Andrey Kurpatov desarrollan una arquitectura para combatir las alucinaciones de AI

Sberbank reveló trabajo en una investigación titulada "Modelo de IA de la realidad mental humana". El proyecto involucra al Laboratorio de Neurociencia y Comportamiento Humano dirigido por Andrey Kurpatov, y el objetivo suena ambicioso: dar a los agentes de IA la capacidad de discutir la psique humana sin alucinaciones.

Sobre la investigación

Según la descripción publicada, no se trata de una nueva función de chatbot, sino de un intento de describir la realidad mental humana de una manera comprensible para una máquina. Sber habla de un modelo con el que los sistemas de IA podrán trabajar como un mapa interno de conceptos, conexiones y estados. Esto es especialmente importante para tareas donde no es suficiente simplemente seleccionar una respuesta estadísticamente plausible: necesita mantener el contexto, la lógica y las relaciones causales en torno al comportamiento, motivación y percepción humana.

El hecho mismo de que el proyecto sea realizado por un laboratorio en la intersección de neurociencia, investigación conductual e IA muestra la dirección del trabajo. Aquí quieren no solo entrenar aún más la red neuronal en un corpus de textos de psicología, sino apoyarse en una estructura más formal. En otras palabras, la tarea no es que el modelo hable hermosamente sobre los humanos, sino que invente menos y no sustituya las conexiones reales con interpretaciones convenientes pero falsas.

Para los temas relacionados con la psique, esto es crítico: un error en la formulación se convierte fácilmente en un error en la conclusión.

Cómo quieren reducir errores

El detalle clave es la arquitectura de grafos. Normalmente, tal enfoque significa un sistema donde el conocimiento se representa no como texto continuo, sino como nodos y conexiones entre ellos. Para agentes de IA, esto puede convertirse en una forma de verificar respuestas no solo por la probabilidad de la siguiente palabra, sino también por la estructura explícita de conceptos. Si el modelo razona sobre miedo, motivación, atención o distorsiones de la percepción, puede basarse en un mapa de relaciones entre estas entidades, en lugar de asociaciones aleatorias de datos de entrenamiento.

• fijar conceptos y sus conexiones explícitamente
• verificar si una nueva conclusión contradice la estructura ya conocida
• coordinar las respuestas de varios agentes de IA entre sí
• reducir el riesgo de fantasías donde se necesita lógica causal, no retórica

Otro punto importante se desprende de la formulación de Sber: la arquitectura está diseñada específicamente para la interacción entre agentes. Esto ya no es un chatbot único, sino un entorno donde varios modelos o módulos intercambian juicios sobre una persona. En este modo, el problema de las alucinaciones se vuelve aún más agudo: un error puede multiplicarse rápidamente a lo largo de toda la cadena. Un esquema de grafo es necesario como marco común que mantiene la discusión dentro de la lógica consistente.

Dónde será útil

Si el enfoque funciona, puede aplicarse en sistemas de apoyo a la toma de decisiones, asistentes digitales, productos educativos y servicios que analizan el comportamiento del usuario. Esto no es necesariamente sobre hacer diagnósticos. Mucho más cercano es el escenario aplicado donde la IA ayuda a analizar la comunicación, reacciones, patrones motivacionales o errores cognitivos, pero lo hace de manera más cuidadosa y consistente.

Para el mercado corporativo, esto es especialmente interesante: los negocios necesitan agentes que no solo repitan la psicología popular, sino que sepan razonar dentro de un modelo determinado y expliquen de dónde viene la conclusión. Al mismo tiempo, públicamente, esto aún se discute como investigación. Sberbank no ha revelado cómo se evaluará la calidad de tal sistema, qué conjuntos de datos o marcos de expertos se utilizan y en qué productos aparecerá el resultado.

Esta es una advertencia importante porque combatir las alucinaciones es una de las tareas más difíciles en toda la pila de IA. Cualquier arquitectura puede mejorar la coherencia de la respuesta, pero esto no garantiza la verdad. Por lo tanto, la pregunta principal no es solo cómo representar el conocimiento sobre la psique, sino también cómo validar tal conocimiento, actualizarlo y no transferir al modelo los errores de los propios investigadores.

Lo que esto significa

Sberbank muestra un giro interesante: en lugar de otro chatbot universal, la empresa está explorando un área más estrecha pero compleja donde la estructura, consistencia y control de errores son importantes para la IA. Si el enfoque de grafos funciona, podría dar al mercado una nueva clase de agentes que razonan sobre humanos notablemente con más cuidado que los LLM ordinarios.