OpenAI впервые пустила в офисы четырёх внешних аудиторов проверять свои модели
Обычно безопасность ИИ проверяет сама лаборатория, а OpenAI впервые позвала четырёх независимых аудиторов прямо в свои офисы. Это Apollo Research, METR, Transluce и Goodfire: им открыли неопубликованные модели, код, обучающие данные и мониторинг. Над проверкой стоит независимый совет по безопасности, он получает отчёты без купюр. Для рынка это тест, станет ли внешний аудит ИИ нормой.
AI-обработка оригинала The Decoder; редакция Hamidun News
Обычно о безопасности ИИ мы узнаём из отчётов самих компаний: лаборатория сама проверила свою модель и сама сообщила, что всё в порядке. Представьте, что ресторан сам выдаёт себе санитарный сертификат. OpenAI решила добавить внешний взгляд: компания впервые открыла свои внутренние системы для четырёх независимых аудиторов, которые работают прямо в её офисах и изучают риски и поведение моделей. Аудиторы здесь означают сторонние исследовательские организации, не связанные с OpenAI.
Кто и что проверяет
В программу вошли Apollo Research, METR, Transluce и Goodfire. Каждой досталась своя задача. Apollo Research выясняет, не работают ли модели тайно против намерений своих разработчиков. METR разбирает случаи неправильного поведения ИИ в самом большом запуске обучения с подкреплением. Так называют метод, при котором модель учится на «наградах» за правильные действия. Goodfire анализирует внутренние процессы модели, то есть пытается понять, что происходит «под капотом». Transluce оценивает проверки безопасности, которые проводятся после основного обучения.
Доступ зависит от задачи, но список впечатляет. В офисах OpenAI аудиторы могут работать с ещё не вышедшими моделями, исходным кодом, обучающими данными и системами мониторинга. Кроме того, они вправе конфиденциально разговаривать с разработчиками. Это важно: инженеры часто знают о слабых местах больше, чем попадает в официальную документацию.
Программа развивает более раннюю проверку на месте, которая касалась систем мониторинга OpenAI. Компания также говорит, что так выполняет обязательства из «White House Accord on Super Intelligence». На начало 2027 года OpenAI и Transluce планируют ещё одну проверку, на этот раз восьминедельную.
Как устроен контроль над аудиторами
Чтобы процесс не превратился в формальность, над ним стоит независимый совет по безопасности. Он следит за всей работой, получает отчёты без вычеркнутых мест и выступает посредником, если стороны спорят. Если аудитор и компания не согласны, например, в оценке риска, решать это в одиночку OpenAI не придётся.
Аудиторы публикуют выводы сами. Но у компании есть рычаги: OpenAI может вычеркнуть конфиденциальные материалы и отложить публикацию, чтобы сначала исправить найденные риски. С одной стороны, это разумно: нет смысла выкладывать описание уязвимости, пока она не закрыта. С другой стороны, именно здесь будет проходить главная граница доверия. Насколько часто и надолго отчёты будут задерживаться, станет видно только по практике.
OpenAI сама признаёт, что на первых порах ждёт трений. Она уже думает о новых проверках, в том числе о тех, что коснутся корпоративной культуры и внутренних процессов. То есть аудиторов могут позвать смотреть не только на модели, но и на то, как компания принимает решения.
Что это значит для индустрии
Для разработчиков и продактов, которые строят продукты поверх моделей OpenAI, новость скорее сигнальная. Прямых изменений в API она не приносит. Но она показывает, в какую сторону движется рынок: крупные лаборатории начинают подкреплять заявления о безопасности проверками со стороны, а не только собственными тестами.
Для основателей и команд, которые делают собственные модели или агентов, это ещё и ориентир. Если регуляторы и клиенты привыкнут к тому, что у ведущей лаборатории есть внешний аудит с доступом к коду и данным, то вопрос «а кто вас проверял?» зададут и остальным. Заранее продумать, как показывать внешним специалистам логи, мониторинг и результаты оценок, станет полезной практикой.
Есть и честные ограничения. Пока это анонс: результатов проверок нет, и неизвестно, что именно найдут аудиторы. Участвуют организации, с которыми OpenAI выбрала работать сама. Право редактировать отчёты и откладывать их остаётся у компании. Поэтому настоящую ценность программы оценят по первым публикациям: насколько в них будет конкретики и насколько критичными окажутся выводы.
Пока же главный итог такой: впервые у внешних специалистов появился прямой доступ к неопубликованным моделям, коду и данным одной из ведущих ИИ-лабораторий. Дальше всё зависит от того, насколько честно эта схема заработает.
- 21 нояб. 2026 г.Thinking Machines выпустила Inkling 2 Mini: 26 млрд параметров и 20,1 балла в AA Index
- 21 нояб. 2026 г.Математик Anthropic заявил: Claude помог за 6 недель доказать гипотезу Римана
- 21 нояб. 2026 г.Стартап Osmo обучил ИИ запахам на 10 млн оценок людей и генерирует ароматы по тексту
- 21 нояб. 2026 г.КНДР показала первый чатбот «Источник мудрости»: только наука, без политики
Вопросы и ответы по материалу
Что известно по теме: кто и что проверяет?
В программу вошли Apollo Research, METR, Transluce и Goodfire. Каждой досталась своя задача. Apollo Research выясняет, не работают ли модели тайно против намерений своих разработчиков. METR разбирает случаи неправильного поведения ИИ в самом большом запуске обучения с подкреплением. Так называют метод, при котором модель учится на «наградах» за правильные действия. Goodfire анализирует внутренние процессы модели, то есть пытается понять, что происходит «под капотом».
Что известно по теме: как устроен контроль над аудиторами?
Чтобы процесс не превратился в формальность, над ним стоит независимый совет по безопасности. Он следит за всей работой, получает отчёты без вычеркнутых мест и выступает посредником, если стороны спорят. Если аудитор и компания не согласны, например, в оценке риска, решать это в одиночку OpenAI не придётся. Аудиторы публикуют выводы сами. Но у компании есть рычаги: OpenAI может вычеркнуть конфиденциальные материалы и отложить публикацию, чтобы сначала исправить найденные риски.
Что известно по теме: что это значит для индустрии?
Для разработчиков и продактов, которые строят продукты поверх моделей OpenAI, новость скорее сигнальная. Прямых изменений в API она не приносит. Но она показывает, в какую сторону движется рынок: крупные лаборатории начинают подкреплять заявления о безопасности проверками со стороны, а не только собственными тестами. Для основателей и команд, которые делают собственные модели или агентов, это ещё и ориентир.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.