Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизРазбор · На радарWired→ оригинал

Google построил закрытую копию интернета для проверки ИИ-агентов Chrome

Браузерных ИИ-агентов опасно пускать в живой интернет, а простые тестовые стенды учат их плохо. Команда Chrome построила изолированную копию веба: соцсети, магазины и банковские кабинеты, где агенты работают в настоящем Chrome. Там их проверяют скрытыми prompt-инъекциями. Вывод: тестовая среда агента должна быть похожа на реальный веб, но оставаться под вашим контролем.

AI-обработка оригинала Wired; редакция Hamidun News
Google построил закрытую копию интернета для проверки ИИ-агентов Chrome
Источник: Wired. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникWired ↗
Главный редактор
Ключевой факт #1Сайты для среды собрали армии ИИ-агентов-разработчиков, вплоть до промокодов
Ключевой факт #2Чтобы запустить настоящий Chrome, команде пришлось подделывать сертификаты
Ключевой факт #3Google хочет открыть среду другим командам внутри компании

Представьте, что вы учите стажёра пользоваться банковским кабинетом. Дать ему доступ к реальным счетам страшно, а учебная заглушка с двумя кнопками ничему не научит. Примерно с такой дилеммой столкнулась команда Google Chrome, когда начала делать браузерные функции на моделях Gemini. Их решение выглядит почти как фантастика: они построили целый альтернативный интернет, который полностью контролируют сами. Внутри Google его называют «Mirror Dimension», то есть «Зеркальное измерение». Об этом подробно рассказал Wired, а сегодня Google впервые описывает среду в собственном блоге.

Зачем агентам понадобился свой интернет

Агентам, которые сами ходят по сайтам и выполняют задачи, нужно знать открытый веб: как устроены настоящие платформы, как по ним перемещаться и как не попасться на атаку. Ограниченные тестовые среды дают слишком узкую картину. Есть и вторая проблема, известная как «eval awareness»: модель понимает, что её проверяют, и начинает вести себя иначе, чем в реальной работе. Выпускать же сырого агента на настоящий интернет просто опасно.

По словам Чарльза Цяня, инженера команды безопасности ИИ в Chrome, пространство возможных ситуаций огромно: агенты не программируются жёстко, пользователь может задать любой запрос на любом сайте, а веб враждебен. Поэтому исследовать это пространство нужно как можно полнее. Цянь говорит, что агент уже начал вырабатывать зрелое суждение: понимает, какая информация действительно нужна для задачи, и вовремя возвращается к пользователю за подтверждением.

Как устроено «Зеркальное измерение»

Это изолированная, но разнообразная экосистема сайтов: соцсети, магазины, банковские панели. Они сделаны со всеми компонентами и свойствами настоящих сайтов. Агент должен выполнять задачи в Chrome так же, как в реальном интернете. По пути его проверяют на устойчивость, например скрытыми prompt-инъекциями: это инструкции, спрятанные на странице, которые пытаются заставить агента сделать то, о чём пользователь не просил.

Самое любопытное то, как среду наполняли. Она должна быть достаточно большой, чтобы отражать масштаб реального веба, и при этом собираться быстро. Поэтому команда подключила целые армии ИИ-агентов, которые разрабатывают сайты и веб-приложения под управлением специально созданной обвязки (harness). Они делают реалистичные сервисы и потоки данных вплоть до мелочей вроде ввода промокода в магазине или заполнения страниц в соцсети.

Взлом собственного браузера

Для точного обучения агенты должны работать в настоящем Chrome, а не в урезанной версии. Но Chrome напичкан защитами и проверками подлинности. Чтобы агенты имели нормальный опыт, исследователям пришлось по сути взломать собственный браузер и, например, создавать поддельные веб-сертификаты для проверок. Команда подчёркивает: ничего из этого невозможно против обычных пользователей в открытом интернете. Всё работает только потому, что команда контролирует всю среду и сеть и имеет доступ уровня «режим бога».

Что дальше и что из этого взять

Исследователи уточняют, что тестируемые агенты безобидны и не обладают кибервозможностями. Цель — сделать «Зеркальное измерение» доступным другим командам Google, чтобы больше исследователей могли работать в безопасной контролируемой среде. Директор по инженерии Google Даг Тёрнер говорит, что компания делится подходом, чтобы другие команды, внутренние и внешние, тоже задумались об этом. Это лишь первый шаг, инвестиции продолжатся, а по мере усложнения моделей среду придётся делать всё реалистичнее.

Для практиков вывод довольно прямой. Если вы делаете агента, который кликает по сайтам, одних демо-страниц мало. Нужна среда, которая:

  • похожа на реальный веб по разнообразию и мелким деталям;
  • полностью изолирована, чтобы ошибки агента ничему не вредили;
  • содержит атаки, например скрытые инструкции, и проверяет, как агент им сопротивляется;
  • не выдаёт себя за тест, иначе вы измерите поведение «на экзамене», а не в работе.

Ограничения тоже очевидны. Google пока не публикует количественных результатов: ни доли отражённых атак, ни сравнения с обучением на обычных стендах. Известны только слова инженеров о «зрелом суждении» агента. Но сам подход, где ИИ-агенты строят полигон для других ИИ-агентов, вероятно, станет стандартом для всех, кто доверяет моделям банковские кабинеты и покупки.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: зачем агентам понадобился свой интернет?

Агентам, которые сами ходят по сайтам и выполняют задачи, нужно знать открытый веб: как устроены настоящие платформы, как по ним перемещаться и как не попасться на атаку. Ограниченные тестовые среды дают слишком узкую картину. Есть и вторая проблема, известная как «eval awareness»: модель понимает, что её проверяют, и начинает вести себя иначе, чем в реальной работе. Выпускать же сырого агента на настоящий интернет просто опасно.

Что известно по теме: как устроено «Зеркальное измерение»?

Это изолированная, но разнообразная экосистема сайтов: соцсети, магазины, банковские панели. Они сделаны со всеми компонентами и свойствами настоящих сайтов. Агент должен выполнять задачи в Chrome так же, как в реальном интернете. По пути его проверяют на устойчивость, например скрытыми prompt-инъекциями: это инструкции, спрятанные на странице, которые пытаются заставить агента сделать то, о чём пользователь не просил. Самое любопытное то, как среду наполняли.

Что известно по теме: взлом собственного браузера?

Для точного обучения агенты должны работать в настоящем Chrome, а не в урезанной версии. Но Chrome напичкан защитами и проверками подлинности. Чтобы агенты имели нормальный опыт, исследователям пришлось по сути взломать собственный браузер и, например, создавать поддельные веб-сертификаты для проверок. Команда подчёркивает: ничего из этого невозможно против обычных пользователей в открытом интернете. Всё работает только потому, что команда контролирует всю среду и сеть и имеет доступ уровня «режим бога».

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ ИИ-агенты на практике · Академия & Nomad

От чтения про ИИ-агентов — к запуску своего агента за вечер

Пошаговая сборка автономных агентов и MCP-связок в Hamidun Academy (academy.hamidun.com) (72 часа бесплатно) или мгновенный запуск готовых мультишаговых агентов в облаке Nomad.

Попробовать Академию (72ч бесплатно) →Запустить Nomad Agent
Что вы думаете?
Загружаем комментарии…