В статье «ИИ и инфляция качества» я писал о том, что резкое удешевление интеллектуальной работы довольно быстро меняет наши требования к ее результату. Если дополнительная проверка занимает несколько минут, ее начинают делать. Если можно быстро перебрать десять вариантов, первый попавшийся уже не выглядит достаточным. Вчерашнее «слишком долго и дорого» превращается в сегодняшнее «а почему нет?», и качество начинает расти вслед за возможностями.
У этого же процесса есть другой аспект, который пока немного теряется за бесконечным сравнением человека и машины.
Мы привыкли считать ИИ поштучно. Может ли один агент написать код лучше одного программиста? Насколько один аналитик с ИИ производительнее аналитика без него? Сколько сотрудников сможет заменить человек, получивший хорошего электронного помощника? Это вполне разумные вопросы, из которых получается такая же разумная арифметика рынка труда: если один сотрудник теперь выполняет работу двух, второй становится лишним.
Дивизия математиков
Но тут OpenAI продемонстрировала несколько другой способ считать интеллект. Для работы над проблемой Навье‑Стокса они запустили около 10 000 агентов, которые работали 88 часов. И мне в этой истории гораздо интереснее не очередной раунд обсуждения, насколько умными стали модели, а само число.
Десять тысяч.
Если посадить десять тысяч хороших живых математиков на одну проблему на 88 часов, я тоже буду ждать от них чего‑нибудь интересного. Вопрос в том, как именно их посадить. Десять тысяч математиков надо разделить на группы, распределить направления, собирать промежуточные результаты, замечать дублирование, закрывать тупиковые ветки, передавать полезные находки между группами и постоянно перераспределять людей туда, где появился прогресс. Через некоторое время математическая проблема начинает конкурировать за внимание с проблемой управления дивизией математиков.
Человеческий интеллект очень плохо масштабируется. Специалистов можно нанимать тысячами, но тысяча специалистов не превращается в специалиста, способного одновременно проверить тысячу гипотез. Вместе с каждым новым человеком в систему приходит не только дополнительная голова, но и необходимость этой головой управлять, передавать ей информацию и получать результат обратно. В какой‑то момент стоимость координации начинает пожирать значительную часть того, что мы выиграли количеством.
С агентами эта проблема никуда не исчезает, но становится технической. Их тоже надо координировать, они тоже могут повторять друг друга, ошибаться и толпой идти в тупик. Только для запуска еще тысячи агентов не надо искать тысячу специалистов, выдавать им ноутбуки, проводить онбординг и арендовать соседнее здание. Нужны вычислительные ресурсы и система, способная всем этим зоопарком управлять.
Килограмм к килограмму
И вот тут у меня возникает ассоциация с Солнцем.
Человеческое тело в пересчете на килограмм массы производит заметно больше энергии, чем в среднем килограмм солнечного вещества. Если взять именно удельную мощность, Солнце выглядит довольно неубедительно. Просто его масса составляет около двух нониллионов килограммов, и в таком количестве посредственная удельная мощность дает звезду, рядом с которой существование человека возможно только на весьма почтительном расстоянии.
Мы сейчас очень внимательно сравниваем человека и ИИ килограмм к килограмму.
А что, если сила ИИ вообще окажется не в том, что один экземпляр когда‑нибудь станет умнее одного человека?
Человеческий интеллект до сих пор был практически штучным товаром. Хорошего математика можно обучить, нанять, переманить у конкурента, но нельзя скопировать десять тысяч раз и на трое суток бросить все копии на одну проблему. Это мы еще не учитываем, что математика способного понять, а в чем, собственно, проблема Навье‑Стокса заключается — еще надо поискать. Поэтому большая часть нашей экономики интеллектуального труда построена вокруг дефицита людей и необходимости выбирать, на какие задачи стоит тратить их время.
Рой
С машинным интеллектом это ограничение начинает слабеть. Вместо одного очень умного помощника на задачу можно натравить рой. Одни агенты перебирают решения, другие пытаются их опровергнуть, третьи проверяют промежуточные результаты. Если какое‑то направление выглядит перспективным, туда отправляется больше ресурсов. Если оказалось тупиком, его закрывают. Для этого вовсе не обязательно, чтобы каждый участник роя был гением. Достаточно, чтобы вся система производила полезный результат дешевле, чем альтернативный способ его получить.
И тогда разговор о рынке труда становится несколько сложнее, чем «один человек теперь работает за десятерых, поэтому девятерых увольняем».
Цена вопроса
Эта арифметика верна только при условии, что количество работы задано заранее. Было сто задач, после появления ИИ один сотрудник решает десять, значит, для выполнения тех же ста задач действительно понадобится десять сотрудников вместо ста. Но в реальной экономике фиксировано не количество задач. Фиксирована граница, после которой задачу становится слишком дорого решать.
У любой компании таких задач полно. Можно глубже анализировать процессы, проверять больше вариантов, делать индивидуальные решения для маленьких клиентов, чаще пересчитывать прогнозы, исследовать мелкие отклонения, автоматизировать операции, которые экономят по десять минут, проверять идеи, вероятность успеха которых слишком мала, чтобы отдавать им месяц работы специалиста. Все это не обязательно бесполезно. Просто сегодня стоимость ответа часто выше стоимости вопроса.
Именно эту границу ИИ и двигает.
В «Инфляции качества» речь шла об одном следствии: когда дешевеет дополнительная итерация, мы начинаем делать больше итераций и повышаем требования к результату. Масштабирование агентов дает другое следствие того же процесса: когда дешевеет дополнительная интеллектуальная мощность, мы начинаем ставить задачи, которые раньше не стоило ставить вообще.
Проблемы не заканчиваются
Это важно еще и потому, что решение проблем не сокращает их количество.
Решение одной проблемы позволяет построить что‑то, что раньше построить было невозможно, после чего у новой системы обнаруживается собственный набор проблем. Мы решаем их, получаем еще более сложную систему и обнаруживаем следующий набор. Дешевые вычисления не привели к тому, что человечество наконец посчитало все необходимое. Они привели к тому, что мы начали считать погоду, геномы, поведение покупателей, движение каждой посылки, положение каждого автомобиля, миллиарды рекламных аукционов и еще огромное количество вещей, которые при прежней цене вычислений просто не существовали как экономически осмысленные задачи.
С интеллектуальной работой может произойти то же самое. Чем дешевле становится решение проблемы, тем больше проблем попадает в область экономически разумного. Чем больше мы способны решить, тем более сложные системы можем себе позволить. А сложные системы довольно исправно производят новые задачи для тех, кто их построил.
Рынок труда
Это не означает, что ИИ никого не заменит. Заменит. Если работа человека состоит из набора операций, которые машина делает дешевле и достаточно хорошо, держать человека ради сохранения традиций никто не обязан. Какие‑то профессии сократятся, какие‑то исчезнут, внутри оставшихся изменится распределение работы.
Но из роста производительности совершенно не следует пропорциональное сокращение спроса на интеллектуальный труд. Для этого пришлось бы предположить, что человечеству нужен определенный объем решенных проблем и после его достижения можно расходиться.
Пока мы ведем себя ровно наоборот.
Каждый новый уровень возможностей довольно быстро становится обычным, затем обязательным, а потом превращается в основание для следующего уровня требований. Это и было причиной инфляции качества. Теперь к ней добавляется возможность масштабировать не только количество попыток одного человека, но и саму доступную ему интеллектуальную мощность.
Поэтому через несколько лет ценным сотрудником может оказаться не тот, кто с помощью ИИ научился выполнять работу трех человек. Это довольно скучный предел применения технологии. Гораздо интереснее человек, способный поставить задачу, на которую раньше понадобился бы отдел, потом натравить на нее сотни агентов, понять, что из произведенного ими имеет смысл, и на основании результата поставить следующую задачу, до которой вчера никто не мог позволить себе добраться.
И это уже совсем другой прогноз рынка труда. В нем ИИ не просто отбирает существующие задачи у людей. Он одновременно резко расширяет пространство задач, решение которых становится доступным.
Килограмм Солнца
Мы пока пытаемся понять будущее, измеряя интеллект по одному экземпляру. Один человек против одной модели. Один программист против одного агента. Один математик против одного искусственного математика.
Возможно, это правильная единица измерения для теста.
Для оценки последствий — уже не уверен.
Килограмм Солнца тоже проигрывает килограмму человека, но Солнцу это совершенно не мешает.
Балашов Сергей.
Автор: scrllock
