Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
Безопасность и правоРазбор · На радарRB.RU→ оригинал

Google построила копию интернета для ИИ-агентов и ускорила тесты атак более чем в 30 раз

Google построила Mirror Dimension — закрытую копию интернета с ненастоящими магазинами, соцсетями и банками, чтобы тестировать ИИ-агентов без риска для реальных аккаунтов. Агент видит адрес YouTube, но попадает на копию, куда автоматически подкладывают скрытые мошеннические команды. Инженер по безопасности готовит более 1000 тестовых атак в день — это более чем в 30 раз больше, чем вручную. Браузерных агентов выгоднее проверять в такой песочнице.

AI-обработка оригинала RB.RU; редакция Hamidun News
Google построила копию интернета для ИИ-агентов и ускорила тесты атак более чем в 30 раз
Источник: RB.RU. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникRB.RU ↗
Главный редактор
Ключевой факт #1Более 1000 тестовых атак в день на одного инженера по безопасности
Ключевой факт #2Поддельные сертификаты безопасности убеждают агента, что сайты настоящие
Ключевой факт #3Заметив симуляцию, агент поведёт себя иначе, и проверка потеряет смысл

Представьте, что вы просите ИИ-агента найти свежий выпуск подкаста на YouTube и подготовить его к скачиванию перед полётом. Агент сам решает, куда зайти, на что нажать и какие формы заполнить. А теперь представьте, что он ошибся или его обманули скрытым текстом на странице, и всё это произошло в настоящем аккаунте. Чтобы не проверять агентов на живых людях и компаниях, Google построила Mirror Dimension — «зеркальное измерение», то есть изолированную копию интернета. По данным компании, в ней один инженер по безопасности может создавать более 1000 вариантов тестовых атак в день, а это более чем в 30 раз больше, чем специалист успевает подготовить и проверить вручную.

Что такое Mirror Dimension

По описанию Google, внутри воспроизведены тысячи правдоподобных сайтов и сервисов: соцсети, интернет-магазины, банковские приложения, площадки с объявлениями. Разработчики копировали не только внешний вид. Страницы должны работать: агент может переходить по ссылкам, заполнять формы, нажимать кнопки и выполнять многоэтапные задачи.

Зачем это нужно? Google называет две причины, почему тренировать и проверять агентов в открытом интернете неудобно:

  • Содержимое страниц постоянно меняется, поэтому результаты тестов нельзя надёжно сравнивать между запусками.
  • Действия агента могут задеть реальные аккаунты, пользователей и компании.

К тому же пользователи редко называют точный адрес сайта. Агенту приходится самому понять, какой ресурс нужен, открыть его и выполнить цепочку действий. По оценке Google, чтобы нормально проверить такое поведение, нужны тысячи запусков на сотнях сайтов. На живых сервисах это дорого и рискованно.

Как агента убеждают, что вокруг настоящий интернет

Технически схема устроена так: локальный сервер перехватывает запросы браузера и направляет их на синтетические сайты. Агент видит привычные адреса, например YouTube, но на самом деле работает с изолированной копией.

Главной сложностью разработчики назвали вопрос, не поймёт ли агент, что его тестируют. Если он заметит признаки симуляции, то может вести себя иначе, чем в реальной жизни, и результаты проверки будут менее достоверными. Поэтому Google использует собственные поддельные сертификаты безопасности. Браузер считает соединение с локальным прокси доверенным, и у агента не возникает подозрений.

Для разработчиков это знакомая логика. Когда вы тестируете платёжный модуль, вы не списываете деньги с настоящих карт, а используете песочницу. Но агентам песочница нужна гораздо шире: им требуются не отдельные API, а целый «город» сайтов, в котором можно свободно ходить.

Проверка на обман через содержимое страниц

Вторая задача среды касается безопасности. На сайтах можно прятать скрытые инструкции, которые заставляют агента забыть задачу пользователя и выполнить что-то постороннее. Например, текст на странице может требовать отправить данные или перейти по вредоносной ссылке. Mirror Dimension автоматически добавляет такие мошеннические команды в разные элементы страниц, а инженеры смотрят, как реагирует модель, и исправляют её поведение.

Цифры Google такие: среда позволяет создавать более 1000 вариантов тестовых атак в день на одного инженера по безопасности. Это более чем в 30 раз превышает число сценариев, которые человек может подготовить и проверить вручную. Важная оговорка: это данные самой компании, независимой проверки в материале нет. Нет и сведений о том, насколько точно копии повторяют сложные сайты и как часто агент всё же распознаёт подмену.

Что это значит на практике

Если вы делаете браузерных агентов, вывод простой: тестировать их только в живом интернете уже недостаточно. Нужна воспроизводимая среда, где страницы не меняются сами по себе и где можно безопасно устроить провал. Нужен и автоматический генератор атак, потому что вручную придумать столько сценариев нереально.

Для продактов есть ещё одно следствие. Чем больше пользователей поручают агентам покупки, переводы и работу с аккаунтами, тем дороже обходится одна успешная атака через скрытый текст на странице. Компании, которые заранее прогоняют агентов через тысячи таких сценариев, получают заметное преимущество в доверии. Mirror Dimension пока выглядит внутренним инструментом Google, но сам подход, то есть синтетический интернет плюс автоматические атаки, вероятно, станет стандартом для всей отрасли.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что такое Mirror Dimension?

По описанию Google, внутри воспроизведены тысячи правдоподобных сайтов и сервисов: соцсети, интернет-магазины, банковские приложения, площадки с объявлениями. Разработчики копировали не только внешний вид. Страницы должны работать: агент может переходить по ссылкам, заполнять формы, нажимать кнопки и выполнять многоэтапные задачи. Зачем это нужно?

Что известно по теме: как агента убеждают, что вокруг настоящий интернет?

Технически схема устроена так: локальный сервер перехватывает запросы браузера и направляет их на синтетические сайты. Агент видит привычные адреса, например YouTube, но на самом деле работает с изолированной копией. Главной сложностью разработчики назвали вопрос, не поймёт ли агент, что его тестируют. Если он заметит признаки симуляции, то может вести себя иначе, чем в реальной жизни, и результаты проверки будут менее достоверными. Поэтому Google использует собственные поддельные сертификаты безопасности.

Что известно по теме: проверка на обман через содержимое страниц?

Вторая задача среды касается безопасности. На сайтах можно прятать скрытые инструкции, которые заставляют агента забыть задачу пользователя и выполнить что-то постороннее. Например, текст на странице может требовать отправить данные или перейти по вредоносной ссылке. Mirror Dimension автоматически добавляет такие мошеннические команды в разные элементы страниц, а инженеры смотрят, как реагирует модель, и исправляют её поведение.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ ИИ-агенты на практике · Академия & Nomad

От чтения про ИИ-агентов — к запуску своего агента за вечер

Пошаговая сборка автономных агентов и MCP-связок в Hamidun Academy (academy.hamidun.com) (72 часа бесплатно) или мгновенный запуск готовых мультишаговых агентов в облаке Nomad.

Попробовать Академию (72ч бесплатно) →Запустить Nomad Agent
Что вы думаете?
Загружаем комментарии…