Sberbank and Andrey Kurpatov's team develop architecture to counter AI hallucinations

Сбербанк раскрыл работу над исследованием «ИИ-модель психической реальности человека». В проекте участвует Лаборатория нейронаук и поведения человека под руководством Андрея Курпатова, а цель звучит амбициозно: дать AI-агентам способ обсуждать психику человека без галлюцинаций.

О чем исследование

По опубликованному описанию, речь идет не о новой чат-бот функции, а о попытке описать человеческую психическую реальность в форме, понятной машине. Сбер говорит о модели, с которой AI-системы смогут работать как с внутренней картой понятий, связей и состояний. Это особенно важно для задач, где недостаточно просто подбирать статистически правдоподобный ответ: нужно удерживать контекст, логику и причинно-следственные связи вокруг поведения, мотивации и восприятия человека.

Сам факт, что проектом занимается лаборатория на стыке нейронаук, поведенческих исследований и AI, показывает направление работы. Здесь нейросеть хотят не просто дообучить на корпусе текстов о психологии, а опереться на более формальную структуру. Иначе говоря, задача не в том, чтобы модель красиво говорила о человеке, а в том, чтобы она меньше выдумывала и не подменяла реальные связи удобными, но ложными интерпретациями.

Для тем, связанных с психикой, это критично: ошибка в формулировке легко превращается в ошибку в выводе.

Как хотят снизить ошибки Ключевая деталь — графовая архитектура.

Обычно под таким подходом понимают систему, где знания представлены не сплошным текстом, а узлами и связями между ними. Для AI-агентов это может стать способом сверять ответы не только с вероятностью следующего слова, но и с явной структурой понятий. Если модель рассуждает о страхе, мотивации, внимании или искажениях восприятия, она может опираться на карту отношений между этими сущностями, а не на случайные ассоциации из обучающих данных.

фиксировать понятия и их связи в явном виде проверять, не противоречит ли новый вывод уже известной структуре согласовывать ответы нескольких AI-агентов между собой снижать риск фантазий там, где нужна причинная логика, а не риторика Из формулировки Сбера следует еще один важный момент: архитектура задумана именно для взаимодействия агентов друг с другом. Это уже не одиночный чат-бот, а среда, где несколько моделей или модулей обмениваются суждениями о человеке. В таком режиме проблема галлюцинаций становится еще острее: одна ошибка может быстро размножиться по всей цепочке.

Графовая схема нужна как общий каркас, который удерживает обсуждение в пределах согласованной логики.

Где это пригодится

Если подход заработает, его можно применять в системах поддержки решений, цифровых ассистентах, обучающих продуктах и сервисах, которые анализируют поведение пользователя. Речь не обязательно о постановке диагнозов. Гораздо ближе прикладной сценарий, где AI помогает разбирать коммуникацию, реакции, мотивационные паттерны или когнитивные ошибки, но делает это осторожнее и последовательнее.

Для корпоративного рынка это особенно интересно: бизнесу нужны агенты, которые не просто пересказывают популярную психологию, а умеют рассуждать внутри заданной модели и объяснять, откуда берется вывод. При этом публично речь пока идет именно об исследовании. Сбербанк не раскрыл, как будет оцениваться качество такой системы, какие наборы данных или экспертные рамки используются и в каких продуктах появится результат.

Это важная оговорка, потому что борьба с галлюцинациями — одна из самых сложных задач во всем AI-стеке. Любая архитектура может улучшить связность ответа, но это еще не гарантирует истинность. Поэтому главный вопрос не только в том, как представить знания о психике, но и в том, как валидировать такие знания, обновлять их и не переносить в модель ошибки самих исследователей.

Что это значит

Сбербанк показывает интересный разворот: вместо очередного универсального чат-бота компания исследует более узкую, но сложную область, где для AI важны структура, согласованность и контроль ошибок. Если графовый подход сработает, это может дать рынку новый класс агентов, которые рассуждают о человеке заметно аккуратнее обычных LLM.