Anthropic пустила в офис шестерых аудиторов METR с правом публиковать отчёты без вето

Anthropic 15 октября 2026 года сообщила, что дала шести сотрудникам METR доступ «как у своих»: корпоративные ноутбуки, рабочее место в офисе и внутренние системы, по набору примерно сопоставимые с тем, что видят собственные команды оценки рисков. METR — некоммерческая организация, которая тестирует фронтирные модели. Она опубликует свой анализ уровней риска, инцидентов и практик Anthropic, и запретить это компания не сможет.

Шаг следует за обязательствами прошлого месяца. Тогда Anthropic пообещала усилить независимую оценку своих моделей и подписала White House Accord on Super Intelligence, где компании договорились сотрудничать с внешними аудиторами. За последний год METR уже несколько раз рецензировала Risk Reports компании. Теперь формат меняется: из внешнего рецензента METR превращается в наблюдателя внутри процесса.

Как устроен доступ

Аргумент Anthropic простой: публиковать всё нельзя. Часть информации пригодилась бы злоумышленникам, часть коммерчески чувствительна, например данные о вычислительных мощностях и обучении. Поэтому компания предлагает не раскрывать всё публично, а показать всё независимым экспертам, которые изложат выводы и доказательства. Цель Anthropic — сократить разрыв между тем, что о системах компании понимают оценщики, и тем, что понимает она сама. Сравнение приведено с банковским надзором, где регуляторы сажают резидентных инспекторов внутрь крупнейших банков. Аналогия неточная, оговаривает компания, но логика схожая.

Условия для METR выглядят так:

• шесть сотрудников с корпоративным оборудованием и офисом;
• доступ к внутренним инструментам примерно на уровне собственных команд оценки рисков;
• исключения: данные клиентов, информация под адвокатской тайной и сведения об архитектуре моделей;
• право публиковать анализ рисков, инцидентов и практик;
• право Anthropic требовать лишь редактуры данных из узких заранее заданных категорий.

Если METR сочтёт вымарывание необоснованным, она может сказать об этом публично, не раскрывая сами скрытые сведения. Остальные сотрудники METR, включая исследователей, работающих с Anthropic над другими проектами, от этой команды отделены. Работа идёт по обязывающим соглашениям и под стандартами безопасности Anthropic.

Критерии независимости и три уровня

Антропик формулирует четыре требования к оценщику: экспертиза (в том числе понимание того, как оценки ломаются, например из-за alignment faking), независимость (никаких акций компании и финансовой или операционной зависимости), достаточный доступ (не только к новейшим моделям, но и к тому, как они обучались и как работают защитные механизмы) и свобода публиковать наблюдения.

Помимо METR, компания работает с SecureBio и Accenture и ведёт предварительные разговоры с рядом других организаций, среди которых Hugging Face. Этим партнёрам дают меньше информации и меньше прав на публикацию: сначала Anthropic хочет убедиться, что они защищают конфиденциальные данные и имеют ресурсы для оценки. Для этого вводятся три уровня доступа. На первом оценщики ведут узко очерченные расследования рисков, объём доступа определяет Anthropic, а публикация возможна только с её одобрения. На втором права публикации расширяются (в доступном фрагменте описание этого уровня обрывается). На третьем, как надеется компания, со временем окажется несколько оценщиков, каждый из которых публикует собственный анализ риск-позиции Anthropic и ключевых решений.

Что проверять на практике

Главный вопрос теперь не в самой схеме, а в её исполнении. Для внешних наблюдателей полезно следить за тремя вещами. Первая — первый отчёт METR: насколько он конкретен и сколько в нём вымарок. Вторая — комментарии METR о том, были ли вымарки оправданы, ведь именно этот механизм и заменяет вето. Третья — продвижение остальных партнёров по уровням: если SecureBio или Accenture так и останутся на первом уровне, схема превратится в обычный аутсорсинг проверок. Исключение сведений об архитектуре моделей тоже стоит держать в голове: оно ограничивает глубину любой оценки. Для других лабораторий этот шаблон станет ориентиром: если Anthropic выдержит публикацию неудобных выводов, подобных условий начнут ждать и от остальных подписантов соглашения.