Anthropic доказывает происхождение ответа ИИ без раскрытия весов модели

Когда вы вызываете дорогую модель через чужой API, приходится верить провайдеру на слово. В интерфейсе написано одно название, но проверить, какая модель действительно сформировала ответ, обычно невозможно. Для одиночного запроса это неприятно. Для аудита кода, медицинского сервиса или оценки бизнес-рисков такая неопределённость превращается в проблему доверия.

Anthropic исследует FlashProve — открытую систему криптографического подтверждения происхождения результатов ИИ. Идея проста: лаборатория публикует отпечаток выпущенной модели, а каждый результат можно сопроводить математическим доказательством. Пользователь сверяет доказательство с отпечатком и убеждается, что ответ действительно получен от заявленной модели.

Как это выглядит на практике

Представим сервис, который продаёт проверку репозитория перед релизом. Он утверждает, что отправляет код в передовую модель для поиска уязвимостей. Сегодня клиент видит только отчёт и счёт — ни тот, ни другой не доказывает, какая система выполнила анализ.

С FlashProve сервис мог бы передать вместе с отчётом криптографическое доказательство. Клиент проверил бы его на своём устройстве и подтвердил: этот результат связан с отпечатком нужной модели. Если посредник незаметно заменил дорогую модель дешёвой, проверка не должна пройти.

Та же механика работает в обратную сторону. Разработчик модели не сможет подменить систему более мощной версией во время демонстрации, чтобы искусственно улучшить результаты теста. Доказательство связывает вывод не с названием в интерфейсе, а с конкретным опубликованным отпечатком.

Важная деталь: для проверки не нужно раскрывать веса — внутренние числовые параметры модели. Поэтому схема в принципе подходит не только открытым, но и коммерческим системам Anthropic, OpenAI и других лабораторий. Авторы также проектируют проверку достаточно лёгкой, чтобы она выполнялась локально, без отдельного мощного сервера.

Что это меняет для разработчиков и продуктов

Если подход станет рабочим стандартом, у API появится новый проверяемый слой. Сейчас контракт обычно подтверждает формат запроса, цену и название модели. В будущем к ответу можно будет прикладывать доказательство его происхождения и сохранять его в журнале аудита.

Для разработчика это означает возможность проверять поставщика модели, а не полагаться только на его документацию. Для продукта — подтверждать клиентам, какой системой обработаны их данные. Для основателя — точнее контролировать подрядчиков, которые продают «анализ передовой моделью», но не показывают, что происходит внутри.

Практический сценарий особенно понятен в цепочках с несколькими посредниками: приложение вызывает платформу автоматизации, та обращается к агрегатору, а агрегатор — к лаборатории. Чем длиннее цепочка, тем легче потерять уверенность в том, какая модель выполнила работу. Криптографическое доказательство может пройти по всей цепочке вместе с результатом.

Почему внедрять это пока рано

FlashProve остаётся исследовательской работой. Anthropic прямо сообщает, что программа не завершена и пока не планируется к внедрению ни внутри компании, ни в других лабораториях. Опубликованы техническая спецификация и рабочий код отдельных компонентов, но это ещё не готовая функция Claude и не общепринятый протокол.

Кроме того, схема требует участия самих лабораторий: они должны публиковать отпечатки моделей и поддерживать выпуск доказательств. Без этого независимый разработчик не сможет добавить полноценную проверку поверх существующего закрытого API. Криптографическое подтверждение также отвечает лишь на вопрос о происхождении результата. Оно не доказывает, что ответ правильный, безопасный или соответствует поставленной задаче.

Поэтому практический шаг сейчас — не перестраивать продакшен вокруг FlashProve, а изучить спецификацию и следить за экспериментами. Командам, которые закупают доступ к моделям через посредников, уже стоит отдельно фиксировать версии моделей, параметры запросов и журналы вызовов. Если доказуемый инференс станет стандартом, эти процессы дадут понятное место для нового доказательства: рядом с каждым критичным результатом, который сегодня приходится принимать на веру.