Anthropic перекрыла лазейку для клонирования Claude — дистиллировать модели стало в 10–100 раз труднее

Anthropic объявила о значительном успехе в борьбе с несанкционированной дистилляцией собственных моделей. По словам компании, новые защитные механизмы сократили объём данных, которые третьи лица могут извлечь из Claude для обучения конкурирующих систем, в 10–100 раз. Одновременно система выявила и помогла заблокировать десятки тысяч учётных записей, связанных с попытками извлечения данных и несанкционированного копирования.

Дистилляция как системная угроза

Дистилляция трансформировалась в критическую проблему для ведущих разработчиков искусственного интеллекта на фоне обострения конкуренции между американскими и китайскими лабораториями. Эта практика позволяет конкурентам воспроизводить способности передовых моделей существенно быстрее и с несоизмеримо меньшими затратами на разработку, обучение и инфраструктуру. Проблему признали крупнейшие в США разработчики: Anthropic, OpenAI и Google.

Механизм дистилляции основан на том, что атакующая сторона делает множество запросов к защищённой модели (в данном случае Claude), собирает и анализирует выходные данные, а затем использует их для обучения собственной модели. Такой подход требует намного меньше ресурсов, чем изначальная разработка, но даёт возможность получить модель, способную имитировать способности оригинала.

Технология защиты: усложнение и ограничение

Anthropic добилась положительного результата через усложнение применения прокси-сетей, которые ранее позволяли многократно и систематически считывать защищённые механизмы рассуждений Claude. Новый подход создаёт технические препятствия для масштабных координированных атак на извлечение данных и блокирует штатные попытки несанкционированного копирования.

Защитные механизмы системы ограничивают и контролируют доступ к процессам логического рассуждения, которые являются ключевой компетенцией Claude. Anthropic подчёркивает, что надёжность этой системы защиты достигает уровня, сравнимого с надёжностью защиты, которая предотвращает использование Claude в создании биологического оружия — одного из критических сценариев безопасности. При этом доля ложноположительных срабатываний (когда легитимные запросы блокируются ошибочно) не превышает 0,1%.

Целевые блокировки и именование угроз

Компания заблокировала несколько десятков тысяч учётных записей, которые идентифицировала как причастные к атакам дистилляции. В качестве конкретного примера Anthropic назвала китайский стартап Z.ai (также известный как Zhipu), который якобы при разработке своей многомодальной модели GLM-5.3 пытался систематически перехватывать и собирать ответы Claude для использования при обучении собственной системы.

Anthropic расценивает подобные действия как прямую угрозу национальной безопасности США и конкурентоспособности американского сектора ИИ. Представители Z.ai не ответили на обвинения компании. Инцидент демонстрирует обострение геополитического противостояния в области искусственного интеллекта.

Контекст геополитической конкуренции

Проблема дистилляции отражает фундаментальное напряжение в гонке за лидерством в искусственном интеллекте: компании и страны, выигравшие в масштабах, вычислительных ресурсах, данных и времени разработки, сталкиваются с возможностью быстрого дублирования своих достижений менее хорошо финансируемыми конкурентами. Это подталкивает лидеров к инвестициям в защиту интеллектуальной собственности, разработку технологий противодействия и постоянному мониторингу попыток несанкционированного копирования.

Позиция Anthropic отражает новую реальность ИИ-индустрии: фаза открытого шеринга технологий (когда лидеры делились статьями и даже моделями) уходит в прошлое. На смену приходит эпоха защиты через технические барьеры и мониторинга попыток обхода защит.