- BrainTools - https://www.braintools.ru -
В процессе разработки функций для браузера Google Chrome на базе моделей искусственного интеллекта [1] Gemini команда Google занялась [2] созданием альтернативного интернета для ИИ‑агентов, который находится под контролем инженеров.
«Зеркальное измерение» (Mirror Dimension) — концепция, которую Google впервые подробно описала на днях в своём блоге, — представляет собой обширную, разнообразную, но полностью изолированную веб‑экосистему, находящуюся под полным контролем команды Chrome. Она включает в себя множество веб‑сайтов и платформ — от социальных сетей и интернет‑магазинов до банковских интерфейсов, — созданных с использованием всех компонентов и атрибутов реальных веб‑ресурсов. Агенты‑помощники для работы в браузере взаимодействуют с этими сайтами и выполняют задачи в Chrome точно так же, как они делали бы это в настоящем интернете. В процессе работы они проходят проверки на устойчивость — например, сталкиваются со скрытыми попытками внедрения вредоносных команд, что позволяет оценить надёжность их защиты.
«Агенты не работают по жёсткой программе, поэтому невозможно предусмотреть всё, с чем они могут столкнуться. Пространство для исследования огромно, а интернет — среда враждебная, — говорит Чарльз Цянь, инженер‑программист из команды Chrome по безопасности ИИ. — Любой пользователь может ввести любой запрос на любом сайте, поэтому нам необходимо исследовать это пространство максимально тщательно. Мы уже видим, что агенты начинают проявлять своего рода „здравый смысл“: они понимают, какая информация действительно нужна для выполнения задачи, а когда стоит обратиться к пользователю за подтверждением».
Создание и наполнение «Зеркального измерения» само по себе стало непростой задачей: система должна была быть достаточно масштабной и разнообразной, чтобы отражать реальный интернет, и при этом её нужно было разработать в сжатые сроки. В итоге команда Chrome задействовала целые «армии» специализированных ИИ‑агентов, предназначенных для разработки веб‑сайтов и приложений. Под управлением особой системы искусственного интеллекта они быстро создали реалистичные веб‑сервисы и потоки данных — вплоть до таких деталей, как ввод промокодов в интернет‑магазинах или заполнение страниц в социальных сетях. Несмотря на то что вся среда находится под контролем Google, браузер Chrome оснащён таким количеством механизмов защиты пользователей и проверок подлинности, что для использования полноценного Chrome исследователям фактически пришлось «взломать» браузер. Им также понадобилось создать поддельные веб‑сертификаты для прохождения проверок, чтобы обеспечить агентам условия работы, максимально приближенные к реальным. При этом команда подчеркивает: подобные «атаки» совершенно невозможны в отношении обычных пользователей Chrome в открытом интернете. Они стали осуществимы лишь благодаря наличию у исследователей «суперпользовательских» прав доступа — своего рода «режима бога», — обусловленных тем, что они полностью контролируют всю среду и сеть.
По словам исследователей, хотя тестируемые ими ИИ‑агенты безобидны и не обладают кибервозможностями, цель проекта — сделать эту «Зеркальную среду» доступной для других команд внутри Google, чтобы больше специалистов могли использовать эту безопасную и контролируемую платформу для своих тестов.
«Мы делимся этим подходом, чтобы другие команды — как внутри компании, так и за её пределами — могли взять его на вооружение, — говорит Даг Тернер, инженерный директор Google. — Это лишь первый шаг; мы продолжим инвестировать в данный метод обучения [3] моделей. И, полагаю, по мере того как модели будут становиться всё более совершенными, нам придется развивать эту среду, делая её всё более реалистичной».
Ранее Google выложила [4] открытый фреймворк Harness² для самоулучшения ИИ‑агентов. Он позволяет агентам в OpenCode и Codex самостоятельно корректировать инструкции, скилы и другие компоненты по мере работы.
Автор: maybe_elf
Источник [5]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/38872
URLs in this post:
[1] интеллекта: http://www.braintools.ru/article/7605
[2] занялась: https://blog.google/security/mirror-dimension-for-agents/
[3] обучения: http://www.braintools.ru/article/5125
[4] выложила: https://habr.com/ru/companies/bothub/articles/1108490/
[5] Источник: https://habr.com/ru/articles/1110344/?utm_campaign=1110344&utm_source=habrahabr&utm_medium=rss
Нажмите здесь для печати.