Игра в имитацию

И снова про ИИ, точнее, про большие языковые модели, LLM, которые сейчас считаются панацеей для всего и уже разрушили всё, куда были внедрены: найм, разработку, маркетинг и т.д. Почему так происходит? Отличная штука же, ты ему пишешь, что тебе надо, он делает. Ну да, иногда делает не очень хорошо, но ведь новые модели выходят постоянно! И каждая лучше, чем предыдущая, вон, результаты тестов не дадут соврать. Или дадут?

Что же такое LLM в реальности? По сути, это довольно простой алгоритм, сводящийся, если упрощенно, к умножению вектора на матрицу. Потом, получившийся вектор снова умножают на ту же матрицу, потом еще и еще. Чтобы процесс не зациклился, сойдясь к “мертвой точке”, на каждом шаге добавляется некий “случайный шум”. И на выходе мы имеем примитивный процесс, который, тем не менее, дает результаты, очень убедительно имитирующие результаты разумной деятельности. Матрица и алгоритмы, по которым строится вектор подобраны таким образом, чтобы результат наиболее правдоподобно имитировал рассуждения, написание кода, анализ текста и т.д. То есть, буквально, брался большой объем готовых рассуждений, готового кода и пр., после чего коэффициенты матрицы подбирались так, чтобы по их части алгоритм наиболее правдоподобным образом мог восстановить целое. Там есть еще целая гора нюансов, конечно, но суть примерно такая. Алгоритм, который имитирует. Китайская комната.

Дайте ему на вход задачу и он имитирует ее решение. Имитирует цепочку рассуждений. Если попросить, то будет и проверку имитировать. Во многих случаях этого достаточно. Давайте будем честны друг с другом – многие люди тоже занимаются, по сути, имитацией деятельности и их работу можно было бы автоматизировать, просто это стоило дорого. Нанять человека было дешевле, чем разработать алгоритм, который бы делал то же самое. И возникло много рабочих мест, где включать голову не обязательно. Просто пройди курсы питона изучи инструкции и следуй им. Приходи в 9, бери задания из списка, выполняй их, согласно учебнику инструкциям, уходи в 5. Суббота и воскресенье выходные дни. Пиши бумаги, ценность которых в том, что они должны быть. Пиши код согласно паттернам (список прилагается). Отвечай на звонки согласно скрипту. Нажимай на кнопки в нужном порядке, по инструкции. Работай.

И вот, создан простой алгоритм, который может имитировать разумную деятельность не хуже, чем обычный человек. Может работать по инструкции. Писать шаблонный код. Отвечать на письма и звонки. С одной стороны, это хорошо. Если ваша работа заключается в имитации, то вы можете многократно повысить производительность своего труда, научившись пользоваться LLM и спихнув задачи на него. Ваш начальник будет писать кипятком от счастья и ставить вас в пример другим. Он даже будет всеми силами продвигать использование ИИ среди подчиненных, чтобы их эффективность росла. Ведь ваша же выросла? Значит у других тоже должна вырасти! А когда она, в среднем, вырастет достаточно, можно будет поувольнять всех неэффективных, кто проиграл эту гонку, отчего эффективность вырастет еще больше! Да, ваше рабочее место в опасности, но вы, можно сказать, сами кузнецы своего счастья, учитесь использовать ИИ более эффективно, чем другие, тогда уволят не вас, а их, отстающих. Раньше у вас была лопата, а теперь вы оператор экскаватора! Прогресс! Развитие! Технолоджия!

Проблемы начинаются, когда оптимизация доходит до тех, кто реально занимался работой. Не имитировал деятельность, перекладывая бумаги и отвечая согласно шаблонам, а сам разрабатывал что-то. Ставил задачи, для себя и других. Искал решения. Работал головой, использовал разум по назначению. Такой сотрудник не сможет увеличить свою производительность при помощи ИИ так же, как тот, кто деятельность имитировал. Сможет, конечно, но делегировать алгоритму получится меньшую часть работы, то, что он и так раньше, в основном, делегировал другим. И вот он попадет в списки отстающих. Ему будут ставить в пример более успешных сотрудников, которые смогли освоить ИИ и производительность их труда выросла многократно, в то время как он, отсталый, топчется на месте. Угадайте, кому срежут премию и кто, скорее всего, попадет в списки на увольнение в следующем квартале?

Бизнес доволен. Внедрение ИИ резко увеличило производительность труда и позволило сократить персонал. Финансовые результаты налицо, они объективны, с ними невозможно спорить. Да, есть небольшие проблемы, технологии еще несовершенны. Где-то что-то не работает. Или работает не так. Иногда пользователь не может на сайте найти товар. Или доставка не может его доставить. Клиент, общаясь с роботом, начинает выходить из себя. Но ведь это временные трудности! Они уже устраняются! Прогресс всё равно победит! Искусственный интеллект ^[1] меняет мир! Правда, пока ком проблем почему-то растет и растет.

Выхода из этой ситуации, честно говоря, не видно. Во-первых, работу по управлению людьми тоже можно имитировать, да что там, тут недавно, кажется, планирование целой военной компании доверили LLM, с соответствующими последствиями. Уверен, результаты признаны успешными и в соответствующем ведомстве эффективность выросла. Со временем, когда из организаций поувольняют всех неэффективных, чью работу не может имитировать ИИ, нас ожидает череда довольно болезненных потрясений. Просто перестанет работать всё, попытки решить одну проблему будут приводить к возникновению двух новых. Я уже видел это в каком-то фильме. Там компьютер рулил всей экономикой планеты и когда упали доходы компании по производству газированных напитков, просто взял и уволил всех людей. Они были неэффективны. Компьютер молодец.