Project Sid: как ИИ-агенты учились жить вместе в Minecraft

Minecraft давно вышел за рамки обычной компьютерной игры. В него играют миллионы людей, на его основе создают собственные проекты, а некоторые используют песочницу даже для обучения ^[1] программированию, математике ^[2] и другим дисциплинам. Microsoft для этого выпустила отдельную версию, Minecraft Education.

Но что, если вместо школьников поселить в игре несколько сотен ИИ-агентов и дать им свободу? Пусть сами выбирают, чем заняться, общаются друг с другом и договариваются о совместной работе. На первый взгляд ничего сложного: LLM давно решают задачи, пишут код и проходят игры. Но одно дело, когда нейросеть выполняет команды, и совсем другое, когда целой толпе моделей нужно наладить общую жизнь.

Что из этого выйдет, исследователи из Altera проверили в Project Sid ^[3]— цикле экспериментов, где число агентов доходило до тысячи с лишним. В разных запусках персонажи распределяли обязанности, обсуждали налоги, меняли правила жизни поселений и даже распространяли религию Летающего макаронного монстра.

Звучит как завязка для RP-сервера или сценарий постановочных роликов. Для исследователей это способ понять, как может быть устроено общество из одних ИИ-агентов. 

Что хотели проверить

Когда речь заходит о возможностях искусственного интеллекта ^[4], обычно мы имеем в виду навыки одной модели. Может ли условный Gemini решить математическую задачу, написать программу, найти информацию в интернете или самостоятельно пройти компьютерную игру? Для проверки этого есть отдельные тесты.

Зайдем с другой стороны. Вот вы с друзьями решили расслабиться в Minecraft и построить там, например, деревню. Обязанности вы так или иначе распределите: один собирает древесину, второй отправляется в шахту, третий занимается едой, а четвертый строит дома.

Это работает, пока все понимают, чем заняты остальные. А теперь представьте, что никакого разделения обязанностей нет, каждый игрок действует сам по себе, а общей задачи вы не ставили. Тогда кто-то займется совсем отвлеченными делами, двое пойдут делать одно и то же, а кто-то от скуки начнет портить жизнь остальным.

Мы постоянно подстраиваемся друг под друга: делим работу, договариваемся, на ходу меняем планы. Нейросетям такая координация дается заметно хуже.

Эту проблему изучали и до Altera. В проекте SOTOPIA ^[6], например, ученые создали виртуальную среду, где ИИ-агенты должны были договариваться, сотрудничать и добиваться своих целей. В сложных сценариях даже GPT-4 справлялась хуже людей: ей не хватало социального здравого смысла и навыков стратегического общения.

Команда Altera пошла дальше и решила проверить это на большой группе. Вопросов было три. Распределят ли агенты обязанности сами? Получится ли у них жить по общим правилам и менять их? Как в большой группе распространяются идеи и убеждения?

Minecraft выбрали не случайно. У игры бесконечный открытый мир и никакого обязательного сценария: участники сами решают, строить ли, исследовать территорию, добывать ресурсы или торговать и общаться с соседями.

Как устроен Project Sid изнутри и при чем тут пианино

Казалось бы, можно взять несколько сотен копий ChatGPT, подключить их к серверу и посмотреть, что получится. Но обычная языковая модель не умеет самостоятельно существовать внутри Minecraft.

Еще такому «игроку» нужна память ^[8]. Представьте: вы договорились с соседом обменять железо на еду, отвернулись на минуту, а он уже смотрит на вас так, будто видит впервые. Поселение с такими помощниками далеко не уедет.

Поэтому команда Altera разработала собственную архитектуру PIANO (Parallel Information Aggregation via Neural Orchestration). Если не углубляться в технические подробности, она позволяет агенту выполнять несколько процессов одновременно: запоминать события, планировать дальнейшие действия, анализировать поведение ^[9] окружающих, разговаривать и управлять персонажем.

Всего в архитектуре десять модулей. Например, один отвечает за память и хранит информацию о прошлых событиях, другой помогает формировать новые цели, третий анализирует социальные сигналы от других участников, а четвертый выполняет игровые действия.

Если пустить все эти модули вразнобой, возникнет новая проблема. Один процесс решит поговорить с соседом, второй отправит персонажа в шахту, а третий позовет домой. В итоге ИИ будет говорить одно, а делать совсем другое.

Чтобы этого не случилось, в PIANO есть когнитивный контроллер. Он собирает информацию от остальных модулей, принимает основные решения и передает их дальше. Благодаря этому действия и разговоры персонажа не должны противоречить друг другу.

Еще одна фишка в том, что думать и смотреть по сторонам агент может одновременно. Без этого он зависал бы на каждом сложном решении и пропускал бы все, что в это время делают остальные.

Такие конструкторы для агентов делает не только Altera: в Google DeepMind выпустили библиотеку Concordia. ^[11] В ее симуляциях ИИ-агенты взаимодействуют с цифровым и физическим окружением.

В Project Sid вся эта конструкция нужна затем, чтобы персонажи выполняли команды с оглядкой на то, что происходит вокруг.

Первое, что сделали ИИ-игроки, — нашли себе работу

Начать решили с небольшой деревни, в которой поселили 30 ИИ-агентов. Каждому дали одну и ту же задачу: выживать вместе с другими игроками и создать эффективное поселение в Minecraft.

На старте у персонажей были одинаковые черты характера и информация о расположении важных мест. Они знали, где находятся лес, удобная пещера с ресурсами, место, где днем спавнится больше животных, фермерские угодья и центральная площадь.

Никаких ролей им не назначали. Каждый мог заниматься чем угодно и сам решал, какие действия помогут поселению.

Двадцати минут агентам хватило, чтобы поделить обязанности, причем довольно надолго. Каждый присматривался к соседям по серверу и брал на себя то, чем еще никто не занят.

Новые социальные цели появлялись каждые 5–10 секунд. Один агент видел, что кто-то уже добывает древесину, и переключался на другую работу. Другой замечал нехватку еды и шел ее добывать.

Всего ученые насчитали шесть профессий: фермеров, шахтеров, инженеров, охранников, исследователей территории и кузнецов. Роли подтверждались делом. Фермеры чаще других собирали семена и готовили землю под посадку, а охранники ставили ограждения. Часть персонажей так и проработала в одной роли весь эксперимент.

Сами агенты своих профессий не знали. Роли им присвоили задним числом: исследователи собрали цели каждого персонажа и попросили GPT-4o определить, на кого похоже такое поведение ^[13]. Никто не созывал жителей на центральную площадь, чтобы официально объявить о появлении шахтеров и фермеров.

Заодно команда провела контрольный эксперимент, в котором отключила модули социального восприятия ^[14]. Без них агенты практически перестали формировать устойчивые специализации: персонажи постоянно меняли занятия и чаще выполняли похожие действия.

Получается, что для распределения обязанностей ИИ-агентам было мало знать общую задачу и расположение ресурсов. Им нужно было понимать, что делают остальные.

А потом они построили общество и угорели по пастафарианству

Деревня с фермерами и шахтерами — это, конечно, хорошо. Только ни одно поселение не обходится без правил, а правила рано или поздно приходится менять. Чтобы посмотреть, как с этим справятся агенты, исследователи ввели налоги.

В эксперименте участвовали 29 агентов. Двадцать пять обычных жителей, три агитатора и один ИИ, который организовывал выборы. За что агитировали, зависело от запуска: в одних они требовали поднять налоги, в других — снизить.

В виртуальном поселении уже действовала конституция, по которой каждый житель должен был отдавать 20% своего инвентаря в общий сундук. Персонажи могли обсуждать это правило, высказывать недовольство и предлагать изменения.

Агитаторы общались с остальными жителями и пытались убедить их в своей позиции. Затем специальный агент, которого исследователи назвали Election Manager, собирал предложения, готовил поправки к конституции и выносил их на голосование.

В одном из запусков противники налогов добились снижения ставки с 20 до 5–10%. Жители это заметили: прежде они исправно сдавали в общий сундук около пятой части инвентаря, а после поправок — примерно 9%.

Механизм работал и в обратную сторону: сторонники повышения налогов теоретически тоже могли влиять на мнение жителей и добиваться изменения правил.

Громкий заголовок тут просится сам, но нет, демократию ИИ-агенты не придумали. Конституцию, налоговую систему и механизм голосования исследователи подготовили заранее. Зато они проверили, способны ли агенты обсуждать общие правила, влиять друг на друга и менять поведение, когда решение принято.

Чтобы проверить, как ИИ распространяет культуру, команда Altera запустила симуляцию уже на 500 агентов. Их поселили в шести городах и на прилегающих территориях, у каждого персонажа были собственные имя, характер и особенности поведения.

Исследователи хотели посмотреть, какие темы будут появляться в разговорах и как быстро они распространятся между поселениями.

Жители одного города, например, активно обсуждали экологию, а в другом неожиданно стали популярны розыгрыши. Среди других тем встречались танцы, музыка и медитация. Исследователи анализировали разговоры персонажей, выделяли повторяющиеся темы и отслеживали их на протяжении эксперимента.

Отдельно команда следила за пастафарианством — пародийной религией, последователи которой поклоняются Летающему макаронному монстру.

В одном из городов исследователи разместили 20 агентов-проповедников. Им поручили рассказывать окружающим о своей вере, обращать новых сторонников и нести учение в соседние города.

Остальные жили как жили: заговаривали с миссионерами, если хотелось, кочевали между поселениями и занимались своими делами. Никто не заставлял их принимать новую религию.

Успех проповеди измеряли по разговорам. Агента, который упоминал Летающего макаронного монстра или саму религию, записывали в прямые последователи. Тех, у кого в речи мелькали только «паста» и «спагетти», считали косвенно затронутыми.

Упоминаний становилось все больше: к проповедникам присоединялись агенты, уже подхватившие идею, и тема перекидывалась из города в город. Даже спустя два часа симуляции она продолжала расходиться.

Уверовали ли агенты в Летающего макаронного монстра, никто не проверял. Исследователей интересовало другое: как тема появляется в разговорах, переходит от одного персонажа к другому и становится частью жизни всего сервера.

До цифровой цивилизации пока далеко

Картина складывается заманчивая. В Minecraft живут сотни ИИ-агентов: одни выбрали профессию, другие спорят о налогах, третьи несут в массы учение о макаронном монстре. Чем не первая цифровая цивилизация? Вроде бы все как у людей, только вместо городов из бетона — кубические домики.

Но у этой картины есть оговорки. Самые масштабные запуски действительно превышали тысячу агентов, однако серверу Minecraft было тяжеловато, и некоторые персонажи периодически зависали. Поэтому подробное исследование культурных процессов и пастафарианства проводили на симуляции с 500 участниками.

У самих агентов оставались проблемы с пространственным восприятием и навигацией: им было сложно ориентироваться в игровом мире и вместе строить сложные сооружения. Еще исследователи отмечали, что у агентов нет собственных базовых побуждений, например стремления к выживанию, любопытства или потребности ^[18] в сообществе.

И еще одно ограничение, уже не техническое. Агенты пришли на сервер не с пустой головой: модели обучены на человеческих данных, а сверху им выдали вводную информацию. Все, что они делали, они делали со знанием того, как это устроено у людей.

Minecraft — не единственная площадка для подобных экспериментов. Исследователи проекта OASIS ^[20] создали симулятор социальных сетей по образцу X и Reddit, рассчитанный на миллион ИИ-пользователей. Агенты там публикуют сообщения, подписываются друг на друга, комментируют записи и пользуются алгоритмической лентой. С его помощью изучали распространение информации, поляризацию мнений и эффект толпы.

Считать такие симуляции точным слепком человеческого общества пока откровенно рано. В 2025 году исследователи Амстердамского университета разобрали 35 работ ^[21] о генеративном моделировании социальных систем. Вывод у них простой: если ИИ ведет себя правдоподобно, это еще не значит, что он воспроизводит реальные механизмы человеческих отношений. На итог влияют особенности языковых моделей, случайность ^[22] ответов и даже культурные предубеждения.

Так что Project Sid не доказывает, что ИИ способен сам построить государство. Впрочем, такой цели у исследователей и не было.

Зато они показали, что поведение больших групп ИИ можно изучать через взаимодействие отдельных агентов. Специализацию, коллективные правила и передачу культурной информации удается измерять, сравнивать и проверять в разных условиях.

Это пригодится и за пределами Minecraft. По мере развития автономных ИИ-помощников все чаще придется решать задачу их совместной работы. Допустим, у вас есть агент-аналитик, агент-проверяющий и агент, который нажимает кнопки. Кто проследит за тем, чтобы они успешно договорились?

Похоже, исследователи только начинают разбираться в том, как это работает.