Minecraft давно вышел за рамки обычной компьютерной игры. В него играют миллионы людей, на его основе создают собственные проекты, а некоторые используют песочницу даже для обучения программированию, математике и другим дисциплинам. Microsoft для этого выпустила отдельную версию, Minecraft Education.
Но что, если вместо школьников поселить в игре несколько сотен ИИ-агентов и дать им свободу? Пусть сами выбирают, чем заняться, общаются друг с другом и договариваются о совместной работе. На первый взгляд ничего сложного: LLM давно решают задачи, пишут код и проходят игры. Но одно дело, когда нейросеть выполняет команды, и совсем другое, когда целой толпе моделей нужно наладить общую жизнь.
Что из этого выйдет, исследователи из Altera проверили в Project Sid — цикле экспериментов, где число агентов доходило до тысячи с лишним. В разных запусках персонажи распределяли обязанности, обсуждали налоги, меняли правила жизни поселений и даже распространяли религию Летающего макаронного монстра.
Звучит как завязка для RP-сервера или сценарий постановочных роликов. Для исследователей это способ понять, как может быть устроено общество из одних ИИ-агентов.
Что хотели проверить
Когда речь заходит о возможностях искусственного интеллекта, обычно мы имеем в виду навыки одной модели. Может ли условный Gemini решить математическую задачу, написать программу, найти информацию в интернете или самостоятельно пройти компьютерную игру? Для проверки этого есть отдельные тесты.
Зайдем с другой стороны. Вот вы с друзьями решили расслабиться в Minecraft и построить там, например, деревню. Обязанности вы так или иначе распределите: один собирает древесину, второй отправляется в шахту, третий занимается едой, а четвертый строит дома.
Это работает, пока все понимают, чем заняты остальные. А теперь представьте, что никакого разделения обязанностей нет, каждый игрок действует сам по себе, а общей задачи вы не ставили. Тогда кто-то займется совсем отвлеченными делами, двое пойдут делать одно и то же, а кто-то от скуки начнет портить жизнь остальным.
Мы постоянно подстраиваемся друг под друга: делим работу, договариваемся, на ходу меняем планы. Нейросетям такая координация дается заметно хуже.
Эту проблему изучали и до Altera. В проекте SOTOPIA, например, ученые создали виртуальную среду, где ИИ-агенты должны были договариваться, сотрудничать и добиваться своих целей. В сложных сценариях даже GPT-4 справлялась хуже людей: ей не хватало социального здравого смысла и навыков стратегического общения.
Команда Altera пошла дальше и решила проверить это на большой группе. Вопросов было три. Распределят ли агенты обязанности сами? Получится ли у них жить по общим правилам и менять их? Как в большой группе распространяются идеи и убеждения?
Minecraft выбрали не случайно. У игры бесконечный открытый мир и никакого обязательного сценария: участники сами решают, строить ли, исследовать территорию, добывать ресурсы или торговать и общаться с соседями.
Как устроен Project Sid изнутри и при чем тут пианино
Казалось бы, можно взять несколько сотен копий ChatGPT, подключить их к серверу и посмотреть, что получится. Но обычная языковая модель не умеет самостоятельно существовать внутри Minecraft.
Еще такому «игроку» нужна память. Представьте: вы договорились с соседом обменять железо на еду, отвернулись на минуту, а он уже смотрит на вас так, будто видит впервые. Поселение с такими помощниками далеко не уедет.
Поэтому команда Altera разработала собственную архитектуру PIANO (Parallel Information Aggregation via Neural Orchestration). Если не углубляться в технические подробности, она позволяет агенту выполнять несколько процессов одновременно: запоминать события, планировать дальнейшие действия, анализировать поведение окружающих, разговаривать и управлять персонажем.
Всего в архитектуре десять модулей. Например, один отвечает за память и хранит информацию о прошлых событиях, другой помогает формировать новые цели, третий анализирует социальные сигналы от других участников, а четвертый выполняет игровые действия.
Если пустить все эти модули вразнобой, возникнет новая проблема. Один процесс решит поговорить с соседом, второй отправит персонажа в шахту, а третий позовет домой. В итоге ИИ будет говорить одно, а делать совсем другое.
Чтобы этого не случилось, в PIANO есть когнитивный контроллер. Он собирает информацию от остальных модулей, принимает основные решения и передает их дальше. Благодаря этому действия и разговоры персонажа не должны противоречить друг другу.
Еще одна фишка в том, что думать и смотреть по сторонам агент может одновременно. Без этого он зависал бы на каждом сложном решении и пропускал бы все, что в это время делают остальные.
Такие конструкторы для агентов делает не только Altera: в Google DeepMind выпустили библиотеку Concordia. В ее симуляциях ИИ-агенты взаимодействуют с цифровым и физическим окружением.
В Project Sid вся эта конструкция нужна затем, чтобы персонажи выполняли команды с оглядкой на то, что происходит вокруг.
Первое, что сделали ИИ-игроки, — нашли себе работу
Начать решили с небольшой деревни, в которой поселили 30 ИИ-агентов. Каждому дали одну и ту же задачу: выживать вместе с другими игроками и создать эффективное поселение в Minecraft.
На старте у персонажей были одинаковые черты характера и информация о расположении важных мест. Они знали, где находятся лес, удобная пещера с ресурсами, место, где днем спавнится больше животных, фермерские угодья и центральная площадь.
Никаких ролей им не назначали. Каждый мог заниматься чем угодно и сам решал, какие действия помогут поселению.
Двадцати минут агентам хватило, чтобы поделить обязанности, причем довольно надолго. Каждый присматривался к соседям по серверу и брал на себя то, чем еще никто не занят.
Новые социальные цели появлялись каждые 5–10 секунд. Один агент видел, что кто-то уже добывает древесину, и переключался на другую работу. Другой замечал нехватку еды и шел ее добывать.
Всего ученые насчитали шесть профессий: фермеров, шахтеров, инженеров, охранников, исследователей территории и кузнецов. Роли подтверждались делом. Фермеры чаще других собирали семена и готовили землю под посадку, а охранники ставили ограждения. Часть персонажей так и проработала в одной роли весь эксперимент.
Сами агенты своих профессий не знали. Роли им присвоили задним числом: исследователи собрали цели каждого персонажа и попросили GPT-4o определить, на кого похоже такое поведение. Никто не созывал жителей на центральную площадь, чтобы официально объявить о появлении шахтеров и фермеров.
Заодно команда провела контрольный эксперимент, в котором отключила модули социального восприятия. Без них агенты практически перестали формировать устойчивые специализации: персонажи постоянно меняли занятия и чаще выполняли похожие действия.
Получается, что для распределения обязанностей ИИ-агентам было мало знать общую задачу и расположение ресурсов. Им нужно было понимать, что делают остальные.
А потом они построили общество и угорели по пастафарианству
Деревня с фермерами и шахтерами — это, конечно, хорошо. Только ни одно поселение не обходится без правил, а правила рано или поздно приходится менять. Чтобы посмотреть, как с этим справятся агенты, исследователи ввели налоги.
В эксперименте участвовали 29 агентов. Двадцать пять обычных жителей, три агитатора и один ИИ, который организовывал выборы. За что агитировали, зависело от запуска: в одних они требовали поднять налоги, в других — снизить.
В виртуальном поселении уже действовала конституция, по которой каждый житель должен был отдавать 20% своего инвентаря в общий сундук. Персонажи могли обсуждать это правило, высказывать недовольство и предлагать изменения.
Агитаторы общались с остальными жителями и пытались убедить их в своей позиции. Затем специальный агент, которого исследователи назвали Election Manager, собирал предложения, готовил поправки к конституции и выносил их на голосование.
В одном из запусков противники налогов добились снижения ставки с 20 до 5–10%. Жители это заметили: прежде они исправно сдавали в общий сундук около пятой части инвентаря, а после поправок — примерно 9%.
Механизм работал и в обратную сторону: сторонники повышения налогов теоретически тоже могли влиять на мнение жителей и добиваться изменения правил.
Громкий заголовок тут просится сам, но нет, демократию ИИ-агенты не придумали. Конституцию, налоговую систему и механизм голосования исследователи подготовили заранее. Зато они проверили, способны ли агенты обсуждать общие правила, влиять друг на друга и менять поведение, когда решение принято.
Чтобы проверить, как ИИ распространяет культуру, команда Altera запустила симуляцию уже на 500 агентов. Их поселили в шести городах и на прилегающих территориях, у каждого персонажа были собственные имя, характер и особенности поведения.
Исследователи хотели посмотреть, какие темы будут появляться в разговорах и как быстро они распространятся между поселениями.
Жители одного города, например, активно обсуждали экологию, а в другом неожиданно стали популярны розыгрыши. Среди других тем встречались танцы, музыка и медитация. Исследователи анализировали разговоры персонажей, выделяли повторяющиеся темы и отслеживали их на протяжении эксперимента.
Отдельно команда следила за пастафарианством — пародийной религией, последователи которой поклоняются Летающему макаронному монстру.
В одном из городов исследователи разместили 20 агентов-проповедников. Им поручили рассказывать окружающим о своей вере, обращать новых сторонников и нести учение в соседние города.
Остальные жили как жили: заговаривали с миссионерами, если хотелось, кочевали между поселениями и занимались своими делами. Никто не заставлял их принимать новую религию.
Успех проповеди измеряли по разговорам. Агента, который упоминал Летающего макаронного монстра или саму религию, записывали в прямые последователи. Тех, у кого в речи мелькали только «паста» и «спагетти», считали косвенно затронутыми.
Упоминаний становилось все больше: к проповедникам присоединялись агенты, уже подхватившие идею, и тема перекидывалась из города в город. Даже спустя два часа симуляции она продолжала расходиться.
Уверовали ли агенты в Летающего макаронного монстра, никто не проверял. Исследователей интересовало другое: как тема появляется в разговорах, переходит от одного персонажа к другому и становится частью жизни всего сервера.
До цифровой цивилизации пока далеко
Картина складывается заманчивая. В Minecraft живут сотни ИИ-агентов: одни выбрали профессию, другие спорят о налогах, третьи несут в массы учение о макаронном монстре. Чем не первая цифровая цивилизация? Вроде бы все как у людей, только вместо городов из бетона — кубические домики.
Но у этой картины есть оговорки. Самые масштабные запуски действительно превышали тысячу агентов, однако серверу Minecraft было тяжеловато, и некоторые персонажи периодически зависали. Поэтому подробное исследование культурных процессов и пастафарианства проводили на симуляции с 500 участниками.
У самих агентов оставались проблемы с пространственным восприятием и навигацией: им было сложно ориентироваться в игровом мире и вместе строить сложные сооружения. Еще исследователи отмечали, что у агентов нет собственных базовых побуждений, например стремления к выживанию, любопытства или потребности в сообществе.
И еще одно ограничение, уже не техническое. Агенты пришли на сервер не с пустой головой: модели обучены на человеческих данных, а сверху им выдали вводную информацию. Все, что они делали, они делали со знанием того, как это устроено у людей.
Minecraft — не единственная площадка для подобных экспериментов. Исследователи проекта OASIS создали симулятор социальных сетей по образцу X и Reddit, рассчитанный на миллион ИИ-пользователей. Агенты там публикуют сообщения, подписываются друг на друга, комментируют записи и пользуются алгоритмической лентой. С его помощью изучали распространение информации, поляризацию мнений и эффект толпы.
Считать такие симуляции точным слепком человеческого общества пока откровенно рано. В 2025 году исследователи Амстердамского университета разобрали 35 работ о генеративном моделировании социальных систем. Вывод у них простой: если ИИ ведет себя правдоподобно, это еще не значит, что он воспроизводит реальные механизмы человеческих отношений. На итог влияют особенности языковых моделей, случайность ответов и даже культурные предубеждения.
Так что Project Sid не доказывает, что ИИ способен сам построить государство. Впрочем, такой цели у исследователей и не было.
Зато они показали, что поведение больших групп ИИ можно изучать через взаимодействие отдельных агентов. Специализацию, коллективные правила и передачу культурной информации удается измерять, сравнивать и проверять в разных условиях.
Это пригодится и за пределами Minecraft. По мере развития автономных ИИ-помощников все чаще придется решать задачу их совместной работы. Допустим, у вас есть агент-аналитик, агент-проверяющий и агент, который нажимает кнопки. Кто проследит за тем, чтобы они успешно договорились?
Похоже, исследователи только начинают разбираться в том, как это работает.
Автор: Dmitry_Kosarev
