Сэм Альтман раскрыл, что техно-олигархи на самом деле думают о нас, людях

Сэм Альтман, генеральный директор OpenAI, наконец-то сказал это вслух. В интервью на мероприятии Express Adda ^[1] в Индии он заявил ^[2]:

Одна из вещей, которая всегда несправедлива в этом сравнении, это… люди говорят о том, сколько энергии требуется для обучения ^[3] модели ИИ по сравнению с тем, сколько стоит человеку сделать один логический вывод (inference query). Но на обучение человека тоже уходит много энергии. Требуется около 20 лет жизни и вся еда, которую вы съедаете за это время, прежде чем вы станете умным.

С точки зрения ^[4] Альтмана, это рациональный аргумент. Он оправдывает потребление ресурсов, необходимых для обучения ИИ-моделей, сравнивая его с ресурсами, которые потребляем мы, люди.

Для него ИИ и человечество относятся к одной ценностной категории. Он измеряет и то, и другое в терминах полезности.

Но не все думают так, как Сэм Альтман. Иммануил Кант, великий немецкий философ, однажды сказал:

Поступай так, чтобы ты всегда относился к человечеству и в своем лице, и в лице всякого другого так же как к цели, и никогда не относился бы к нему только как к средству.

И эта фраза стала моральным фундаментом современного общества.

Но Альтман и другие техно-олигархи мыслят наоборот. Для них цели и средства поменялись местами.

Прямо сейчас их цель – навязать обществу свой так называемый «ИИ». Для этого им нужны гипермасштабные дата-центры. Много дата-центров – более тысячи ^[5].

Спросите их зачем, и они дадут вам прямой ответ – на благо человечества.

(Вы, конечно, слышали это раньше – это повторяет не только Альтман, но и Маск, и вся остальная их тусовка).

Вы можете возразить, что строительство гигантских дата-центров наносит реальный ущерб людям: захват земель, скачки потребления электричества и воды с последующим ростом цен, вред окружающей среде и так далее. Не говоря уже о всплеске цен на компьютерное оборудование, подогреваемом ИИ-хайпом.

Они ответят вам: но это все для вашего же блага! Вы получите лекарство от рака, разбогатеете и будете свободны делать все, что захотите. Работа станет выбором, а не обязанностью ^[6].

Когда? – спросите вы.

Скоро, – ответят они, и продолжат строить гипермасштабные дата-центры.

Попутно они увольняют людей десятками тысяч ^[7] – потому что ИИ эффективнее – и все, что они делают, это просто оптимизация процессов, чтобы принести как можно больше пользы человечеству.

Кстати, утверждение о том, что ИИ эффективнее людей – это ложь ^[8], которая была опровергнута множество раз, но это не имеет значения, поскольку увольнения сокращают корпоративные расходы. Просто остается меньше людей, которым нужно платить зарплату.

Конечно, те, кто остался, теперь работают усерднее – им приходится вычищать баги, которые оставляет за собой ИИ ^[9]. И что с того? Это просто естественный порядок вещей. Оптимизация. В конце концов, все это на благо человечества.

Человек как статья расходов

Для Альтмана и ему подобных мы, люди – не более чем энергоемкая масса юнитов, нагруженных устаревшими багами. Мы все еще нужны лишь постольку, поскольку ИИ действительно не может выполнять всю работу за нас (они это знают).

Именно это они и пытаются исправить. Для этого им нужен AGI (и, видимо, они верят, что именно они его создадут). Поэтому, естественно, им нужны гипермасштабные дата-центры.

Они свернут горы, чтобы добиться своего. Для них человеческий опыт ^[10] – любовь, страдания, ошибки ^[11], формирование личности – это просто входные данные (input). Неэффективный способ получить «умного юнита» на выходе.

Это образ мышления ^[12] инфократов ^[13], для которых человеческая жизнь – это валюта, используемая для оплаты токенов.

Великая энергетическая ложь

Но давайте подыграем Альтману, как бы абсурдно ни было говорить на его языке. Давайте посмотрим на цифры – раз уж эффективность является его святым Граалем. Насколько он прав математически ^[14]?

Исследователи уже все подсчитали:

• Человек: потребляет в среднем 2000 ккал в день. За 20 лет «обучения» до совершеннолетия это эквивалентно примерно 17 000 кВт·ч энергии.

• GPT-4: один цикл обучения этой модели потребил, по разным оценкам, около 50 ГВт·ч (50 000 000 кВт·ч).

Математика неумолима: обучение одной модели GPT-4 стоит столько же, сколько выращивание 3000 человек до совершеннолетия.

Но с точки зрения эффективности это даже не главная проблема. Человек, обученный за 17 000 кВт·ч, будет генерировать экономическую и интеллектуальную отдачу следующие 40-60 лет. GPT-4 устарела и была заменена менее чем за два года.

Альтман хочет до 7 триллионов долларов ^[15] и доступ к 10 ГВт мощностей (энергопотребление Нью-Йорка) для проекта Stargate ^[16]. Он хочет, чтобы мы приняли сжигание ресурсов, эквивалентных целым странам, как нечто «естественное» – сопоставимое с кормлением ребенка. Но с экономической и коммерческой точек зрения это абсурд:

• Генеративные модели – самый энергоемкий и быстро устаревающий продукт в истории цивилизации.

• ИИ-софт страдает первородным грехом галлюцинаций и никогда от него не избавится – это заложено в самой его природе.

• ИИ-компании хронически убыточны.

• Нет никаких оснований полагать, что надежность ИИ когда-либо приблизится к надежности «нормального» программного обеспечения.

Где именно здесь благо для человечества?

Сдвиг «нарратива»

Зачем Альтману нужна эта риторика? Ему нужно, чтобы общество приняло новую нормальность.

Если мы согласимся, что ребенок и серверная стойка – это сопоставимые «единицы интеллекта», тогда:

• Рост цен на электроэнергию из-за дата-центров станет «необходимой жертвой».

• Замена живых сотрудников «энергоэффективным» ИИ станет логичным следующим шагом эволюции.

• Упадок образования перестанет иметь значение – зачем инвестировать в 20 лет «биологического обучения», если можно просто купить подписку?

Кстати, пока техно-олигархи рассуждают о замене людей алгоритмами, реальным специалистам нужны инструменты, чтобы оставаться конкурентоспособными и не зависеть от прихотей одной корпорации.

Сервисы вроде BotHub дают возможность использовать передовые модели ИИ (от разных разработчиков) в одном окне. Это способ заставить технологию работать на вас, а не наоборот.

Для доступа не требуется VPN, можно использовать российскую карту.

По ссылке вы можете получить 300 000 бесплатных токенов ^[17]  для первых задач и приступить к работе с нейросетями прямо сейчас!

Это напоминает то, как промышленное сельское хозяйство говорит о скоте. Нас оценивают по коэффициенту конверсии корма в продуктивность.

Экзистенциальный выбор

Мы приближаемся к точке, когда технология перестает быть инструментом.

В киберпанк-антиутопиях корпорации всегда относились к людям как к ресурсу ^[18]. Сэм Альтман просто заявляет о своих правах на то, чтобы сделать этот дискурс официальным. Он «вынес за скобки» ценность человеческого опыта, оставив лишь голый сухой остаток – логический вывод (inference query).

Но правда в следующем: люди – это не промежуточный узел. Мы не «тренировочные данные» для ИИ. Мы – та самая цель, ради которой ИИ вообще должен существовать.

Если системе требуется энергопотребление целого мегаполиса, чтобы симулировать интеллект ^[19] одного человека, а ее создатели утверждают, что это «эффективнее», чем растить детей – значит, система сломана.

И, как справедливо заметил один из комментаторов высказываний Альтмана, нам не нужны «гении кодинга», если у нас не останется философов. Потому что без понимания того, зачем нам нужен прогресс, наша технология становится инструментом высокоэффективного самоуничтожения нашего вида.

Сэм Альтман не просто защищает бизнес-модель OpenAI. Он предлагает нам сделку: признать себя устаревшим софтом в обмен на иллюзию эффективности.

Мой ответ: нет. Ребенок, на воспитание которого уходит 20 лет – это не «затраты». Это сама жизнь. И если ваш ИИ стоит на пути у этой жизни, то проблема не в энергии. Проблема в вас.