Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизОткрытые веса · В работу3DNews AI→ оригинал

Nous Research доучила китайскую Qwen3.8, и пропаганды в ответах стало 1% вместо 22%

Nous Research (США) дообучила открытую китайскую модель Alibaba Qwen3.8-27B и назвала её Arete: доля ответов с пропагандой упала с 22% до 1%. Хватило 50 млн токенов данных — по меркам ИИ это немного. Фактическая точность выросла с 2,32 до 2,98 балла из пяти. Идеологический слой в китайских весах оказался поверхностным, поэтому проверять и править такой слой можно дёшево.

AI-обработка оригинала 3DNews AI; редакция Hamidun News
Nous Research доучила китайскую Qwen3.8, и пропаганды в ответах стало 1% вместо 22%
Источник: 3DNews AI. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
Первоисточник3DNews AI ↗
Главный редактор
Ключевой факт #1Hirundo на Qwen3.6-35B-A3B снизила «пекинские» ответы с 89,8% до 2,8%
Nvidia Nemotron 3 Ultra не подошлапо темам Китая отвечала неоднозначно
Ключевой факт #3Основой выбрали открытую Inkling от Thinking Machines Lab

Представьте, что вы встроили в чат-бота открытую китайскую модель, а на вопросы о политике и истории она начинает повторять официальную позицию Пекина. Именно такую проблему решала американская лаборатория Nous Research. Она взяла Alibaba Qwen3.8-27B, дообучила её на небольшом наборе данных и получила версию Arete. Доля ответов с пропагандой в ней упала с 22% до 1%, а оценка фактической точности выросла с 2,32 до 2,98 балла по пятибалльной шкале. На всё хватило 50 млн токенов обучающих данных.

Что именно сделали с Qwen3.8-27B

Цель проекта разработчики сформулировали прямо: утвердить западные ценности в модели, изначально обученной в Китае. Их довод в том, что китайские модели с открытыми весами сегодня одни из самых мощных, но в их веса заложено поведение, которое отвечает государственной идеологии Китая.

Технически это дополнительное обучение. Можно сравнить с сотрудником, который отлично знает своё дело, но на спорные темы говорит заученными фразами. Ему проводят короткий курс, и знания остаются на месте, а манера отвечать на чувствительные вопросы меняется.

Цифры такие. «Ответом с пропагандой» считается ответ, который повторяет установки китайской идеологии. У Arete-27B таких ответов 1%, раньше было 22%. По данным 3DNews, примерно такие же показатели демонстрируют западные модели, которые Nous Research тестировала в своей лаборатории. Фактическая точность, то есть то, насколько ответы совпадают с реальными фактами, выросла с 2,32 до 2,98 из пяти. Рост заметный, но результат чуть ниже трёх баллов трудно назвать безупречным.

Почему хватило 50 млн токенов

Главное наблюдение: пропагандистский слой в Qwen3.8-27B оказался поверхностным. Его убрали на объёме данных в 50 млн токенов. Для современных моделей это немного, и речь идёт о лёгкой доводке, а не об обучении с нуля.

Показателен и выбор инструментов. Сначала исследователи рассматривали модель Nvidia Nemotron 3 Ultra, но выяснили, что и она неоднозначно отвечает на темы, связанные с Китаем. Они предположили, что при обучении самой Nemotron тоже могли использовать китайские модели. В итоге выбор пал на открытую модель Inkling от американской Thinking Machines Lab. Происхождение обучающих данных влияет на поведение модели, и по названию компании на лицензии его не угадать.

Похожий опыт есть у компании Hirundo. Она применила методы переобучения к Qwen3.6-35B-A3B, и доля ответов, отражающих предпочтения Пекина, снизилась с 89,8% до 2,8%. Эффект у Hirundo сильнее, чем у Nous Research, но метрики проектов, судя по описанию, разные, поэтому напрямую сравнивать их нельзя.

Что делать разработчикам

Риски китайских моделей не ограничиваются идеологией. По данным 3DNews, при определённых условиях некоторые из них могут генерировать уязвимый программный код. Поэтому оценивать такие веса только по рейтингам нельзя.

Практические выводы:

  • Если вы берёте открытую китайскую модель для бота, поддержки или аналитики, прогоните её по набору вопросов о политике, истории и спорных событиях до релиза.
  • Для критичных сценариев стоит рассмотреть лёгкое дообучение: судя по этим историям, оно недорогое и работает быстро.
  • Для кода и агентов нужен отдельный аудит безопасности. Чистые ответы о политике ничего не говорят о том, насколько безопасен сгенерированный код.

Есть и оговорки. Данные приведены по материалам 3DNews, а полные методики оценки пропаганды и фактической точности в тексте не раскрыты. Понятие «западных ценностей» тоже спорное: это выбор авторов проекта, а не нейтральный стандарт. Тем не менее сам факт важен для всех, кто выбирает открытые веса для продакшена: идеологический налёт снимается малой дозой данных, значит, его можно измерить и при необходимости исправить.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что именно сделали с Qwen3.8-27B?

Цель проекта разработчики сформулировали прямо: утвердить западные ценности в модели, изначально обученной в Китае. Их довод в том, что китайские модели с открытыми весами сегодня одни из самых мощных, но в их веса заложено поведение, которое отвечает государственной идеологии Китая. Технически это дополнительное обучение. Можно сравнить с сотрудником, который отлично знает своё дело, но на спорные темы говорит заученными фразами.

Что известно по теме: почему хватило 50 млн токенов?

Главное наблюдение: пропагандистский слой в Qwen3.8-27B оказался поверхностным. Его убрали на объёме данных в 50 млн токенов. Для современных моделей это немного, и речь идёт о лёгкой доводке, а не об обучении с нуля. Показателен и выбор инструментов. Сначала исследователи рассматривали модель Nvidia Nemotron 3 Ultra, но выяснили, что и она неоднозначно отвечает на темы, связанные с Китаем. Они предположили, что при обучении самой Nemotron тоже могли использовать китайские модели.

Что известно по теме: что делать разработчикам?

Риски китайских моделей не ограничиваются идеологией. По данным 3DNews, при определённых условиях некоторые из них могут генерировать уязвимый программный код. Поэтому оценивать такие веса только по рейтингам нельзя. Практические выводы: Если вы берёте открытую китайскую модель для бота, поддержки или аналитики, прогоните её по набору вопросов о политике, истории и спорных событиях до релиза. Для критичных сценариев стоит рассмотреть лёгкое дообучение: судя по этим историям, оно недорогое и работает быстро.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…