Один ИИ против целого НИИ: DeepMind объяснила, где начинается сверхинтеллект

Google DeepMind опубликовала доклад “From AGI to ASI” ^[1] о том, как искусственный интеллект ^[2] будет развиваться после достижения человеческого уровня. Среди авторов — сооснователь DeepMind Шейн Легг, которому приписывают сам термин AGI, и Маркус Хаттер, создатель математической теории универсального интеллекта. Это первая работа крупной лаборатории, целиком посвященная не вопросу “когда появится AGI”, а тому, что будет после.

Главное в репорте — планка. AGI авторы определяют как систему уровня медианного человека на большинстве когнитивных задач. А вот сверхинтеллект (ASI) должен превосходить не отдельного гения ^[3], а десятки тысяч скоординированных экспертов, которые работают над одной задачей десять лет. По масштабу это целое научное направление или крупная корпорация. Есть и хитрая оговорка: эксперты берутся с технологиями уровня 2010 года — иначе планка сдвигалась бы вечно, ведь люди с доступом к мощному ИИ сами становятся способнее.

От AGI к ASI авторы видят четыре пути, которые могут работать параллельно:

• дальнейшее масштабирование вычислений, моделей и данных;

• смена парадигмы — принципиально новые архитектуры вместо трансформеров;

• рекурсивное самоулучшение, когда ИИ ускоряет разработку следующих версий ИИ;

• коллективы из множества ИИ-агентов, чей суммарный интеллект превышает возможности каждого по отдельности.

При этом гарантий никто не дает. Для каждого пути в докладе перечислены узкие места: исчерпание качественных данных для обучения ^[4], слишком быстрый рост потребления энергии, недостаток финансирования, удорожание самих исследований по мере того, как “низко висящие плоды” сорваны, и возможное сознательное замедление со стороны регуляторов. Станут ли эти факторы непреодолимой стеной или лишь притормозят прогресс — открытый научный ^[5] вопрос, честно пишут авторы.

Сроков в докладе нет вообще. Зато есть два отрезвляющих тезиса. Первый: сверхинтеллект не будет всемогущим — он ограничен скоростью света, законами термодинамики, теорией сложности и теоремами Геделя, поэтому обещания вроде “ИИ победит старение” остаются гипотезами. Второй: вместо одного резкого скачка человечество, скорее всего, ждет серия трансформаций — по мере того, как ИИ будет ускорять прогресс в разных областях науки и технологий.

А самая необычная деталь спрятана в первом разделе. Авторы прямо рекомендуют людям не читать доклад, а попросить своего ИИ-ассистента пересказать его — и оставили для ассистентов отдельные инструкции: что обязательно упомянуть, какие списки не сокращать и как оценить, выдержали ли аргументы проверку временем. Похоже, в DeepMind уже исходят из того, что научные статьи читают в основном модели.

P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть” ^[6], где я рассказываю про ИИ с творческой стороны.