В процессе разработки функций для браузера Google Chrome на базе моделей искусственного интеллекта Gemini команда Google занялась созданием альтернативного интернета для ИИ‑агентов, который находится под контролем инженеров.
«Зеркальное измерение» (Mirror Dimension) — концепция, которую Google впервые подробно описала на днях в своём блоге, — представляет собой обширную, разнообразную, но полностью изолированную веб‑экосистему, находящуюся под полным контролем команды Chrome. Она включает в себя множество веб‑сайтов и платформ — от социальных сетей и интернет‑магазинов до банковских интерфейсов, — созданных с использованием всех компонентов и атрибутов реальных веб‑ресурсов. Агенты‑помощники для работы в браузере взаимодействуют с этими сайтами и выполняют задачи в Chrome точно так же, как они делали бы это в настоящем интернете. В процессе работы они проходят проверки на устойчивость — например, сталкиваются со скрытыми попытками внедрения вредоносных команд, что позволяет оценить надёжность их защиты.
«Агенты не работают по жёсткой программе, поэтому невозможно предусмотреть всё, с чем они могут столкнуться. Пространство для исследования огромно, а интернет — среда враждебная, — говорит Чарльз Цянь, инженер‑программист из команды Chrome по безопасности ИИ. — Любой пользователь может ввести любой запрос на любом сайте, поэтому нам необходимо исследовать это пространство максимально тщательно. Мы уже видим, что агенты начинают проявлять своего рода „здравый смысл“: они понимают, какая информация действительно нужна для выполнения задачи, а когда стоит обратиться к пользователю за подтверждением».
Создание и наполнение «Зеркального измерения» само по себе стало непростой задачей: система должна была быть достаточно масштабной и разнообразной, чтобы отражать реальный интернет, и при этом её нужно было разработать в сжатые сроки. В итоге команда Chrome задействовала целые «армии» специализированных ИИ‑агентов, предназначенных для разработки веб‑сайтов и приложений. Под управлением особой системы искусственного интеллекта они быстро создали реалистичные веб‑сервисы и потоки данных — вплоть до таких деталей, как ввод промокодов в интернет‑магазинах или заполнение страниц в социальных сетях. Несмотря на то что вся среда находится под контролем Google, браузер Chrome оснащён таким количеством механизмов защиты пользователей и проверок подлинности, что для использования полноценного Chrome исследователям фактически пришлось «взломать» браузер. Им также понадобилось создать поддельные веб‑сертификаты для прохождения проверок, чтобы обеспечить агентам условия работы, максимально приближенные к реальным. При этом команда подчеркивает: подобные «атаки» совершенно невозможны в отношении обычных пользователей Chrome в открытом интернете. Они стали осуществимы лишь благодаря наличию у исследователей «суперпользовательских» прав доступа — своего рода «режима бога», — обусловленных тем, что они полностью контролируют всю среду и сеть.
По словам исследователей, хотя тестируемые ими ИИ‑агенты безобидны и не обладают кибервозможностями, цель проекта — сделать эту «Зеркальную среду» доступной для других команд внутри Google, чтобы больше специалистов могли использовать эту безопасную и контролируемую платформу для своих тестов.
«Мы делимся этим подходом, чтобы другие команды — как внутри компании, так и за её пределами — могли взять его на вооружение, — говорит Даг Тернер, инженерный директор Google. — Это лишь первый шаг; мы продолжим инвестировать в данный метод обучения моделей. И, полагаю, по мере того как модели будут становиться всё более совершенными, нам придется развивать эту среду, делая её всё более реалистичной».
Ранее Google выложила открытый фреймворк Harness² для самоулучшения ИИ‑агентов. Он позволяет агентам в OpenCode и Codex самостоятельно корректировать инструкции, скилы и другие компоненты по мере работы.
Автор: maybe_elf


