Anthropic сократила утечку данных из Claude для дистилляции в 10–100 раз

Anthropic сообщила, что обновлённая защита от дистилляции дала измеримый результат. По оценке компании, объём данных, которые конкуренты могут вытянуть из Claude для обучения собственных моделей, упал в 10–100 раз. Новые механизмы также помогли найти и заблокировать десятки тысяч учётных записей, связанных с попытками такого извлечения.

Цифры внушительные, но это заявление самой Anthropic. Методику расчёта и исходные объёмы компания в анонсе не приводит. Разброс «в 10–100 раз» тоже показателен: точной величины у неё либо нет, либо она не хочет её называть.

Что такое дистилляция и почему из-за неё спорят

Дистилляция — способ обучить небольшую или новую модель на ответах более сильной. Разработчик отправляет «учителю» огромное число запросов, собирает ответы и использует их как обучающую выборку. Метод легален и широко применяется внутри компаний: так делают компактные версии собственных моделей. Конфликт возникает, когда «учителем» становится чужая закрытая модель, а условия использования это прямо запрещают.

У Anthropic такой запрет есть: нельзя применять Claude для создания конкурирующих продуктов, включая обучение других моделей. Раньше компания уже ограничивала доступ отдельным конкурентам и структурам из юрисдикций, которые считает рискованными. Дистилляция остаётся болезненной темой для всей отрасли: об аналогичных подозрениях в адрес конкурентов говорили и другие лаборатории.

Что известно о новых мерах

Конкретные механизмы Anthropic не раскрывает, и это логично. Подробное описание детекторов помогло бы тем, кто их обходит. Из заявления следует лишь, что защита работает на двух уровнях: она ограничивает полезность извлекаемых данных и выявляет подозрительные паттерны использования, по которым блокируются аккаунты.

Ключевые цифры из заявления:

• сокращение объёма извлекаемых данных: в 10–100 раз;
• заблокированные учётные записи: десятки тысяч;
• мишень защиты: массовые автоматизированные запросы к Claude, из ответов на которые собирают обучающие наборы;
• независимая проверка: отсутствует, оценка исходит от самой компании.

Масштаб блокировок говорит о том, что извлечение данных шло не единичными экспериментами, а через сети аккаунтов. Одна учётная запись с жёсткими лимитами много не соберёт, поэтому такие схемы дробят нагрузку на множество профилей. Если Anthropic научилась связывать их между собой, это важнее самой цифры в десятки тысяч.

Где слабые места

Первое: защита по определению реактивна. Те, кто извлекает данные, подстраиваются под детекторы: меняют частоту запросов, стиль промптов, источники доступа. Заявленное падение в 10–100 раз описывает текущий момент, а не постоянное состояние.

Второе: возможны ложные срабатывания. Любые поведенческие фильтры рискуют задеть законных клиентов, например команды, которые генерируют синтетические данные для собственных задач в рамках условий сервиса. Anthropic не говорит, сколько добросовестных аккаунтов пострадало, и пострадали ли вообще.

Третье: эффект трудно проверить снаружи. Сторонний наблюдатель не видит ни реального объёма попыток, ни того, сколько данных всё же просочилось.

Что делать командам, работающим с API

Если вы строите продукт на Claude, заранее проверьте, не попадает ли ваш сценарий под запрет на обучение конкурирующих моделей. Особенно это касается генерации больших синтетических датасетов. Распределяйте нагрузку через официальные лимиты и корпоративные тарифы, а не через россыпь аккаунтов: именно такая схема теперь выглядит подозрительно. Держите под рукой логи использования и контакт поддержки на случай ошибочной блокировки. Тем, кто выбирает поставщика модели, стоит учитывать, что закрытые лаборатории будут всё жёстче ограничивать массовый вывод данных, а значит, и условия доступа к API продолжат меняться.