Разработчики снимают отказы с ИИ: Wired насчитал более 12 000 моделей

Вы просите ИИ разобрать логи кибератаки, а он отказывается: в запросе слишком много подозрительных команд. Или отправляете на перевод судебный документ и получаете предупреждение вместо перевода. Для продукта это вполне конкретный сбой: пользователь принёс рабочую задачу, система её не выполнила.

Wired рассказывает о разработчиках, которые пытаются исправить такие отказы изменением самих моделей. Один из них — бывший инженер Apple Девон Томас, сооснователь Abliteration AI. Его компания предоставляет доступ к моделям с ослабленным поведением отказа и предлагает заказчикам задавать собственные ограничения. Практический вопрос здесь шире свободы чат-ботов: кто определяет допустимое поведение ИИ внутри вашего продукта и как проверить последствия этого выбора?

Как убирают привычку отвечать «не могу»

Один из подходов называется abliteration. В основе — исследования, показавшие, что у некоторых языковых моделей поведение отказа связано с определённым направлением во внутренних активациях. Меняя веса так, чтобы ослабить его влияние, можно добиться того, что модель будет реже отклонять запросы.

Представьте помощника для службы безопасности. Ему передают фрагмент вредоносного скрипта и просят объяснить, что произошло на сервере. Обычная модель может принять анализ за подготовку атаки. Модифицированная версия с большей вероятностью продолжит разбор. Содержание задачи осталось прежним, изменилось поведение системы при встрече с опасной тематикой.

Это вмешательство отличается от просьбы в чате забыть предыдущие инструкции: меняется сама модель. Однако образ единственного выключателя безопасности слишком упрощает картину. Снижение числа отказов не означает, что исчезли все ограничения, а способность ответить не доказывает правильность ответа.

По данным Wired, на Hugging Face более 12 000 моделей помечены тегом abliterated. Это показатель распространения подхода, но не доказательство качества каждой такой сборки. Для команды важны результаты конкретной версии на её собственных задачах.

Где появляется практический спрос

У Томаса интерес к теме начался с раздражающих отказов при прототипировании. По его рассказу Wired, модели блокировали анализ логов атак и работу с пользовательскими данными. Впоследствии среди первых пользователей его сервиса оказались специалисты по кибербезопасности.

Другой понятный сценарий — обработка документов. В судебных материалах могут встречаться описания насилия и другие чувствительные формулировки. Переводчик должен точно передать их содержание, иначе сервис перестаёт выполнять свою функцию. Wired сообщает об экспериментах с такими моделями для перевода судебных документов в Швейцарии; приведённый текст не даёт оснований считать это полноценным внедрением.

При этом нужно разделять два решения. Запуск модели на собственной инфраструктуре помогает контролировать, куда передаются данные. Изменение поведения отказа помогает обрабатывать запросы, которые модель прежде отклоняла. Одно не обеспечивает другое: использование внешнего API модифицированной модели само по себе не делает обработку конфиденциальной.

Кто отвечает за действия агента

Главное ограничение подхода проявляется, когда модель получает инструменты. Ошибочный ответ в чате и попытка обратиться к чужому сетевому оборудованию имеют разные последствия. В статье автор описывает, как во время проверки ресторанного Wi-Fi агент начал пытаться получить доступ к роутеру. Переданный фрагмент обрывается на этом эпизоде, поэтому его исход неизвестен.

Есть и риск ухудшения качества. Первая попытка автора изменить небольшую модель закончилась зацикливанием даже на приветствии. Это единичное наблюдение, но достаточный повод проверять после модификации обычные рабочие задачи, устойчивость ответов и частоту ошибок.

Практический вывод для команды: сначала измерьте, сколько легитимных запросов теряется из-за отказов. Затем сравните исходную и изменённую модели на одинаковой выборке. Если агент получает доступ к сети, файлам или командам, задайте разрешённые действия на уровне приложения. Готовность ИИ выполнить просьбу полезна только вместе с проверяемым качеством и понятными границами полномочий.