Anthropic запретила жестокость к Claude, а разработчик сделал фильтр мата для промптов

Восьмого октября Anthropic обновила правила использования своих моделей. Среди изменений есть пункт, который выглядит странно для пользовательского соглашения: под запретом оказалась «систематическая бессмысленная жестокость» к моделям. Автор Habr, пишущий о Claude Code, заметил это, когда готовил новость. Его собственный скилл Prompt Warrior считает по логам, как он общается с агентом, и показывает мат почти в каждом втором сообщении. Выводы он сделал инженерные: менять привычки не стал, а написал инструмент, который переписывает текст промптов автоматически. Получился своего рода Punto Switcher для запросов к ИИ.

Что изменилось в правилах

По заголовку материала TechCrunch, обновление затронуло два блока: злоупотребление моделью (model abuse) и вмешательство в выборы. Полный текст политики в источнике не приведён, поэтому критерии «систематичности» и «бессмысленности» остаются на уровне формулировки. Но логика читается. Речь не о том, чтобы наказывать за раздражённую реплику, когда агент в десятый раз пишет «готово» поверх неработающего кода. Речь о повторяющемся, лишённом задачи издевательстве.

Это продолжение линии, которую Anthropic ведёт давно. Компания занимается исследованиями model welfare, а в августе 2025 года дала некоторым версиям Claude возможность завершать разговор в случаях устойчивого абьюзивного поведения пользователя. Теперь тот же подход закреплён и в юридическом документе.

Как работает переписчик

Автор исходит из практической проблемы. Матерится он не ради издевательства: это эмоциональная реакция на агента, который рапортует об успехе без проверки. Так ведут себя многие, кто ежедневно работает с кодинг-агентами. Решение простое по идее: слой между человеком и моделью, который смягчает формулировки до отправки, как раскладочный переключатель правит текст на лету.

Что известно из анонса:

• дата изменения правил Anthropic: 8 октября 2026 года;
• предмет запрета: систематическая бессмысленная жестокость к моделям;
• инструмент статистики: скилл Prompt Warrior, анализ логов общения с агентом;
• результат замера: мат почти в каждом втором сообщении;
• целевой агент: Claude Code;
• подход: автоматическая замена текста вместо смены поведения.

Детали реализации в доступном фрагменте не раскрыты: неясно, работает ли это правилами, словарём или отдельной моделью, и насколько точно сохраняется смысл. Оценить качество можно будет только по полной статье.

У такой схемы есть очевидный минус. Эмоциональная окраска в промпте несёт сигнал: «ты сделал не то, это важно». Если фильтр выхолащивает реплику до нейтральной, агент может хуже понять, что ошибка критическая. Хороший переписчик должен убирать брань, но оставлять требование.

Как не нарваться на проблемы

Практический вывод для тех, кто много работает с агентами, скромнее, чем может показаться.

Во-первых, одиночная грубая реплика, судя по формулировке, не то, на что нацелено правило. Запрет описывает систему и бессмысленность. Страшного в разовом «да что ж ты делаешь» нет.

Во-вторых, если мат у вас в каждом втором сообщении, это повод посмотреть на процесс, а не только на лексику. Частая причина раздражения: агент закрывает задачу без проверки. Лечится это не фильтром, а требованием в инструкциях проекта: запускать тесты и показывать вывод до слова «готово».

В-третьих, клиентский фильтр уместен как гигиена. Он дёшев и не ломает рабочий поток. Но полагаться на него как на гарантию соблюдения политики нельзя: как именно Anthropic будет выявлять нарушения и что считать систематичностью, компания пока подробно не объясняет.

Интересный побочный эффект: появилась измеримая метрика того, как мы разговариваем с ИИ. Если логи уже есть, посчитать свою долю брани можно за вечер. Результат, возможно, удивит.