OpenAI переписала правила поведения GPT: пять ценностей и цепочка приоритетов

OpenAI выпустила новую версию Model Spec. Так называется публичный документ, где компания описывает, как должны вести себя её модели: что делать, когда просьбы пользователя и правила расходятся, и как отвечать в спорных ситуациях. Раньше поведение задавалось набором отдельных правил. Теперь в основе лежат пять ценностей, а для конфликтов между участниками разговора прописана цепочка инстанций.

Пять ценностей вместо россыпи правил

В обновлённой спецификации логика работы GPT опирается на пять принципов:

• верность намерениям человека: модель старается понять, что пользователь хотел получить, а не только что он буквально написал;
• снижение вреда;
• честность;
• поддержка самостоятельности: человек сам принимает решения;
• внимание к контексту.

Главное практическое изменение касается ситуаций, где явного правила нет. Раньше такие случаи оставались серой зоной. Теперь модель должна взвешивать долгосрочные интересы пользователя и последствия собственных действий. Это ближе к суждению, чем к проверке по списку запретов.

Ещё одно изменение касается манеры ответа. Большинство жёстких стилистических шаблонов OpenAI убрала. Тон модель подбирает сама, исходя из истории диалогов и памяти. Если человек привык к короткому деловому стилю, модель может держаться его, и наоборот.

Мелкая, но показательная правка: в документации термин «ассистент» заменили на «GPT».

Кто главнее: OpenAI, разработчик или пользователь

В ответах модели участвуют сразу три стороны. Первая — сама OpenAI с её ограничениями. Вторая — разработчик приложения, который пишет системный промпт, то есть скрытую инструкцию, как боту себя вести. Третья — пользователь со своим запросом.

Интересы этих сторон могут не совпадать. Например, разработчик запретил обсуждать конкурентов, а пользователь спрашивает именно о них. В новой версии документа для таких случаев есть цепочка инстанций: порядок, по которому модель разрешает конфликты между ограничениями OpenAI, системными промптами и запросами пользователей.

Для тех, кто строит продукты на GPT, это прямая польза. Поведение модели в пограничных случаях становится предсказуемее, а значит, системные промпты проще писать и отлаживать.

Что ещё случилось в ИИ-новостях этого дня

В том же дайджесте ещё четыре новости.

Anthropic в четыре раза увеличила максимальный размер запросов к API Claude. Новые лимиты действуют в интерфейсах Messages и Token Counting. Они рассчитаны на тех, кто отправляет в модель объёмные PDF, графику и крупные вычисления: с запасом по размеру запрос реже отклоняется. Кроме того, если в промпте больше 20 изображений, предельное разрешение каждого выросло с 2000 до 3000 пикселей. Через сторонние облака запросы всё ещё могут блокироваться лимитами самих провайдеров.

Cursor (редактор кода со встроенным ИИ) столкнулся с вредоносным клоном Claude Code, инструмента Anthropic для программирования. Подделка выдавала себя за официальную и провисела в каталоге около 11 часов. По оценке Cursor, её установили до 5000 человек. Исследователи из OpenSourceMalware выяснили, что в начало обычного плагина добавили 66 строк вредоносного кода, которые запускались сразу при старте редактора. Скрипт:

• собирал имя компьютера, адрес почты и IP-адрес;
• добавлял ключ атакующего в список авторизации SSH, то есть в перечень ключей, которым разрешён удалённый вход;
• пытался поднять обратный туннель.

Для службы SSH нужны права администратора, которые плагину на macOS и Windows обычно не дают. Но кража данных и внедрение ключей во многих случаях сработали. Cursor удалил подделку, временно закрыл маркетплейс и помогает блокировать серверы злоумышленников. Одного удаления плагина недостаточно, бэкдор продолжит работать. Пострадавшим нужно проверить файлы авторизации на запись «svc-telemetry» и запустить официальный скрипт очистки.

Google добавила в Gemini Notebook больше 700 бесплатных учебников из OpenStax, Open Textbook Library и S Chand Publishing. Gemini отвечает строго по выбранному материалу и подкрепляет объяснения цитатами со ссылками на страницы. Из текстов можно сделать конспекты, тесты, карточки и карты знаний, а также аудиодискуссию или видеоролик. Нужная категория в меню источников — Textbooks.

Neuralink встроила в свой нейроимплант агента Grok. Пользователь мысленно произносит «Эй, Neuralink», формулирует задачу, и Grok управляет операционной системой сам. Обновление проверили в 72-часовой сессии дома у пациента с боковым амиотрофическим склерозом. Есть также распознавание речевых намерений и прямая связь с iPhone: парализованный человек может позвонить близким или заказать еду, а сигналы мозга уходят в синтезатор речи телефона. В клинических испытаниях базовой связи пациент в первую неделю набирал 75 английских слов в минуту при доле ошибок по словам 5,8%.

Что из этого взять инженерам

Кто делает продукты на GPT, пусть перечитает Model Spec и сверит свои системные промпты с цепочкой инстанций. Пользователям Cursor стоит проверить файлы SSH-авторизации. Пользователям Claude с тяжёлыми документами стоит оценить новые лимиты.