OpenAI пустила внутрь моделей четырёх внешних аудиторов: Apollo, METR, Transluce и Goodfire
OpenAI пустила в свою лабораторию четырёх независимых проверяющих — Apollo Research, METR, Transluce и Goodfire: они увидят не только ответы API, но и чекпойнты, код и обучающие данные. Это как проверять кухню ресторана, а не только блюдо на столе. Искать будут сбои, которых компания не ожидала, например тайную работу модели против разработчиков. Итоги опубликуют, но право вычёркивать секретное останется у OpenAI.
AI-обработка оригинала OpenAI Blog; редакция Hamidun News
Обычно внешняя проверка ИИ выглядит так: лаборатория выпускает модель, сторонние исследователи прощупывают её через API и пишут отчёт. Они видят только то, что компания решила показать. Это похоже на проверку ресторана по одному блюду на столе, когда на кухню никого не пускают. OpenAI объявила другую схему — «встроенные оценки» (embedded assessments). Она подписала соглашения с четырьмя независимыми командами — Apollo Research, METR, Transluce и Goodfire. Они получат глубокий доступ к внутренним моделям и системам на длительный срок. Если вы строите продукты на самых мощных моделях, это шанс понять, насколько можно верить заявлениям лабораторий о безопасности.
Что получат проверяющие и кто чем займётся
В зависимости от задачи аудиторы получат часть тех же ресурсов, что и сами исследователи OpenAI. Это чекпойнты модели (сохранённые промежуточные версии), исходный код, обучающие и тестовые данные, системы мониторинга, техническая документация и разговоры с инженерами. Первая фаза сосредоточена на «выравнивании» (alignment, то есть соответствии поведения модели намерениям разработчиков) и на защитных механизмах во время обучения и внутреннего использования.
Apollo Research будет выяснять, может ли модель тайно работать против разработчиков и заметят ли это защитные системы. Для этого Apollo проверит четыре утверждения OpenAI: обучение не поощряло такое поведение; сильные тесты и red teaming его не провоцируют; во время внутреннего использования модели таких попыток не делали; рассуждения, стоящие за подобным поведением, можно обнаружить. Проверка идёт в два этапа.
METR займётся двумя задачами. Первая — поиск рассогласованного поведения в крупнейшем на сегодня запуске OpenAI по обучению с подкреплением, включая сбои, которые пропустили существующие тесты и мониторы. METR сама расставит приоритеты и будет менять методы по ходу работы. Вторая — повторная проверка мониторов, то есть систем, следящих за поведением моделей. Недавно METR уже провела для OpenAI трёхнедельные учения такого рода с доступом к кодовой базе и мониторам. Новая проверка задумана шире, но её объём пока согласован лишь предварительно.
Transluce оценит качество и охват тестов выравнивания, которые OpenAI запускает после дообучения. Проще говоря, проверит, ловят ли эти тесты то, что должны. В начале 2027 года стороны намерены провести второй этап примерно на восемь недель, с доступом к большему числу моделей и к информации о том, как результаты тестов влияют на решения о релизе.
Goodfire отправит внутрь исследователей интерпретируемости. Они применят свою платформу, чтобы заглядывать во внутреннее устройство модели при мониторинге и отладке обучения. Главные читатели их выводов — сами исследователи OpenAI, но часть результатов Goodfire будет публиковать.
Как защитили независимость и секреты
Правила таких проверок пока нигде не стандартизированы, и OpenAI выложила свои для обсуждения. Тем, кто работает с чувствительной информацией, придётся сидеть в офисах OpenAI и пользоваться корпоративными устройствами. Требования безопасности — не ниже, чем у сотрудников. Если прямой доступ к весам или архитектуре слишком рискован, аудитора могут поставить в пару с исследователем OpenAI, который сам запустит нужные анализы.
Разговоры с сотрудниками идут «не для записи»: они помогают понять контекст, но их нельзя цитировать. Чтобы факт всё же можно было обнародовать, есть отдельный путь: аудитор просит OpenAI заверить формулировку. Компания либо подтверждает её, либо отказывается, и об отказе аудитор вправе сообщить публично.
Споры между OpenAI и аудитором уходят в Safety Advisory Group и к руководству, у которых есть ограниченное время на решение. Если согласия нет, вопрос передают в Комитет по безопасности (SSC) при совете директоров OpenAI Foundation. Комитет получает отчёты без купюр и может общаться с аудиторами, в том числе приватно.
Публиковать результаты аудиторы могут сами. Но OpenAI оставляет за собой право вычёркивать конфиденциальные сведения и просить отсрочку, если найденные проблемы нужно сначала устранить. Конфликты интересов и «периоды охлаждения» перед работой аудиторов с другими лабораториями компания пока прорабатывает вместе с самими аудиторами.
Что это значит и где ограничения
Для индустрии это шаг к внешнему аудиту, который проверяет процесс создания модели, а не только готовый продукт. Инициатива связана и с обязательствами OpenAI по соглашению Белого дома о сверхразумном ИИ, где компания согласилась на независимые оценки своих мер безопасности.
Оговорки очевидны. Рамки проверки задаёт сама OpenAI: в сноске сказано, что первая фаза METR уже, чем её собственное предложение с широким обзором рассогласования. Право редактировать отчёты остаётся у компании. Проверки соблюдения внутренних safety-фреймворков и организационной культуры пока лишь рассматриваются.
Если вы выбираете поставщика моделей, следите за публикациями Apollo, METR, Transluce и Goodfire. По ним станет видно, находят ли такие проверки реальные проблемы или остаются формальностью.
- 21 нояб. 2026 г.Anthropic вышла на биржу и привлекла рекордные $107,3 млрд
- 21 нояб. 2026 г.OpenAI запустила ChatGPT Wallet: агенты покупают, не видя номер карты
- 21 нояб. 2026 г.Anthropic вышла на биржу и собрала рекордные $81 млрд: заявок в 7 раз больше акций
- 21 нояб. 2026 г.OpenAI запустила ChatGPT Wallet: агенты платят за покупки без реальных данных карты
Вопросы и ответы по материалу
Что известно по теме: что получат проверяющие и кто чем займётся?
В зависимости от задачи аудиторы получат часть тех же ресурсов, что и сами исследователи OpenAI. Это чекпойнты модели (сохранённые промежуточные версии), исходный код, обучающие и тестовые данные, системы мониторинга, техническая документация и разговоры с инженерами. Первая фаза сосредоточена на «выравнивании» (alignment, то есть соответствии поведения модели намерениям разработчиков) и на защитных механизмах во время обучения и внутреннего использования.
Что известно по теме: как защитили независимость и секреты?
Правила таких проверок пока нигде не стандартизированы, и OpenAI выложила свои для обсуждения. Тем, кто работает с чувствительной информацией, придётся сидеть в офисах OpenAI и пользоваться корпоративными устройствами. Требования безопасности — не ниже, чем у сотрудников. Если прямой доступ к весам или архитектуре слишком рискован, аудитора могут поставить в пару с исследователем OpenAI, который сам запустит нужные анализы.
Что известно по теме: что это значит и где ограничения?
Для индустрии это шаг к внешнему аудиту, который проверяет процесс создания модели, а не только готовый продукт. Инициатива связана и с обязательствами OpenAI по соглашению Белого дома о сверхразумном ИИ, где компания согласилась на независимые оценки своих мер безопасности. Оговорки очевидны. Рамки проверки задаёт сама OpenAI: в сноске сказано, что первая фаза METR уже, чем её собственное предложение с широким обзором рассогласования. Право редактировать отчёты остаётся у компании.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.