Anthropic извинилась за скрытые ограничения Claude Fable 5

Anthropic, компания-разработчик семейства языковых моделей Claude, публично признала, что в модели Claude Fable 5 действовали скрытые ограничения, о которых пользователи не были предупреждены. Как сообщает 3DNews, эти барьеры осложняли работу независимым исследователям и одновременно мешали компаниям-конкурентам, разрабатывающим собственные ИИ-системы и сравнивающим их поведение с Fable. Anthropic принесла извинения и заявила, что намерена сменить подход к ограничениям, сделав их полностью прозрачными — даже если из-за этого модель станет чаще отклонять часть пользовательских запросов.

Что стояло за скрытыми барьерами

Anthropic не раскрыла исчерпывающий перечень сценариев, которые блокировались недокументированными фильтрами Fable 5. Судя по формулировке извинения, речь идёт не об одном точечном ограничении, а о системном наборе барьеров, которые не были отражены в открытой документации модели и в системных карточках — материалах, которые Anthropic традиционно публикует при выпуске новых версий Claude вместе с описанием политики допустимого использования. Именно отсутствие этой информации в открытом доступе стало главной претензией к компании: пользователи и партнёры не могли заранее понять, где проходит граница допустимого поведения модели, и сталкивались с отказами, для которых не было официального объяснения. Такая ситуация прямо противоречит той репутации, которую Anthropic выстраивала годами, публикуя подробные отчёты о безопасности и ограничениях каждой новой модели.

Кому мешали недокументированные ограничения?

Скрытые барьеры бьют сразу по двум группам. Первая — независимые исследователи, которые занимаются red-teaming и оценкой безопасности крупных языковых моделей: без понимания того, какие ограничения встроены намеренно, а какие являются побочным эффектом обучения, воспроизвести и объяснить поведение модели становится значительно сложнее, а результаты исследований теряют научную ценность из-за невозможности повторить эксперимент. Вторая группа — компании-конкуренты и разработчики, использующие Fable как ориентир при построении собственных систем или сравнивающие её возможности со своими моделями в бенчмарках. Недокументированные фильтры искажают такие сравнения: одна и та же по формулировке задача может выполняться или отклоняться в зависимости от невидимых правил, что делает результаты тестов невоспроизводимыми и подрывает доверие ко всей практике сравнительного тестирования языковых моделей в индустрии.

• Модель — Claude Fable 5, разработка Anthropic
• Претензия — недокументированные (скрытые) ограничения на выполнение запросов
• Пострадавшие стороны — независимые исследователи и компании-конкуренты
• Реакция компании — публичные извинения и обещание перейти на прозрачную политику ограничений
• Компромисс — модель может начать чаще отклонять запросы, но открыто и с объяснением

Что Anthropic обещает изменить

Компания заявила, что переходит на прозрачный подход к ограничениям Fable: любые барьеры, встроенные в модель намеренно, должны быть задокументированы и объяснены, а не скрыты за общими формулировками об отказе выполнить запрос. Это решение укладывается в общую логику, которой Anthropic публично придерживается с момента основания, — компания регулярно выпускает системные карточки моделей и описания политики использования, стремясь позиционировать себя как более открытого игрока рынка по сравнению с конкурентами. Признание ошибки с Fable 5 можно рассматривать как попытку восстановить доверие после того, как скрытые ограничения фактически подорвали заявленный принцип прозрачности.

Для тех, кто строит продукты поверх Claude API или использует Fable в исследовательских целях, обещанная прозрачность означает более предсказуемое поведение модели: разработчики смогут заранее закладывать в архитектуру своих продуктов известные ограничения, а не обнаруживать их постфактум через серию неожиданных отказов. Одновременно компания прямо признаёт: возросшая прозрачность может сопровождаться ростом числа отказов — модель будет чаще открыто говорить «нет» вместо того, чтобы скрыто обходить запрос через невидимые фильтры. Для рынка в целом этот эпизод — напоминание о том, что даже компании, выстраивающие репутацию на теме безопасности и открытости ИИ, не застрахованы от внутренних решений, расходящихся с их публичными декларациями, и что доверие исследовательского сообщества приходится подтверждать заново после каждого подобного инцидента.

История с Fable 5 показательна ещё и потому, что она разворачивается на фоне общего роста внимания к тому, как крупные ИИ-лаборатории объясняют собственные политики безопасности регуляторам, инвесторам и разработчикам-партнёрам. Чем больше компаний в отрасли декларируют приверженность открытости, тем выше цена расхождения между словами и реальной практикой — и тем внимательнее сообщество будет следить за тем, действительно ли Anthropic выполнит обещание документировать все ограничения будущих версий Claude, а не только Fable.