Ложь, которую нам продают надуватели пузыря ИИ, состоит в том, что путь, по которому пошло его развитие, — единственно возможный.
Эксперты и добросовестные журналисты утверждают обратное. И вы сами можете убедиться, что они правы. Я лишь хочу добавить следующее: тот ИИ, который попал в нашу питьевую воду, — это не просто неоптимальная реализация. Это извращение науки и здравого смысла, отражающее особенности личности Сэма Альтмана.
И хотя помимо ChatGPT существуют другие системы — Claude, Gemini, Perplexity и прочие, — их развитие негласно определяется рамками, допускающими лишь одну перспективу. И эти рамки сформированы отношением Альтмана к таким вещам, как правда, ложь, власть и ответственность.
Противоестественный отбор
Технологии не существуют в вакууме. Они эволюционируют. Они находятся под постоянным давлением естественного отбора.
Нам хочется верить, что технологии призваны служить людям. В этом суть «естественного» отбора — те, что служат нам лучше, выживают; те, что хуже, — проигрывают в конкурентной борьбе и вымирают.
Так должно быть в здоровом обществе. Увы, в нашем обществе это не совсем так.
В нашем обществе технологии слишком часто служат иной цели — максимизации богатства владельца продукта. Именно поэтому возникло явление, которое Кори Доктороу окрестил энштификацией: цель производства — не удовлетворение потребностей потребителя, а минимизация издержек при имитации удовлетворения этих потребностей. И тогда отбор становится противоестественным.
Именно это мы и наблюдаем в индустрии ИИ. Если бы ИИ развивался естественным путём, пузырь ИИ бы не возник.
Почему? Потому что его некому было бы надувать. Не было бы ни Сэма Альтмана, ни Дарио Амодеи, ни Дженсена Хуана — всех тех, кто сознательно лжёт нам и ведёт себя лицемерно, движимый одержимостью властью и патологической жадностью. На их месте были бы другие люди.
Кстати, об инструментах. Если вам нужен доступ ко всем ключевым моделям — Claude, GPT, Gemini — загляните на BotHub.
Для доступа не требуется VPN, можно использовать российскую карту.
По ссылке вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Случай OpenAI
В любой лаборатории, как и в природе, возникает множество мутаций — различных идей о том, каким должен быть продукт, в данном случае — искусственный интеллект.
Одни команды ставят во главу угла безопасность. Другие — надёжность рассуждений. Третьи — исследования, а не скорость выпуска продукта.
Одни считают, что для построения ИИ достаточно матрицы токенов. Другие убеждены, что модель реальности, с которой оперирует ИИ, нуждается в укоренении в реальном физическом мире.
Не все подходы выживают. И предсказать их судьбу заранее невозможно.
Помните Илью Суцкевера? Он был адептом масштабирования. И именно эта идея утвердилась как доминирующая парадигма ИИ. Но к 2025 году Суцкеверу стало ясно: масштабирование — не путь к AGI, а тупик. И он был вынужден это признать.
Он это сделал, потому что был и остаётся (надеюсь) настоящим учёным. А для учёного главная ценность — истина.
Но Сэм Альтман не такой.
Он не учёный. Он даже не предприниматель. За всю карьеру у него был лишь один коммерческий продукт — Loopt. Тот стартап сложно назвать успешным. Максимум, чего Альтман добился, — это продал его. На тот момент у приложения было около 500 ежедневных пользователей. Вот весь послужной список Альтмана как предпринимателя.
Но с OpenAI — другая история. Альтман не создавал этот стартап самостоятельно. У него не было ни ресурсов, ни репутации. Но он блестяще решил эту проблему, втершись в доверие к Илону Маску.
Он знал, насколько серьёзно Маск увлечён ИИ и что тот готов сотрудничать с теми, кто разделяет его взгляды и производит впечатление компетентного специалиста. Главный талант Альтмана — производить впечатление компетентного и казаться единомышленником тех, кого он может использовать для достижения своих личных целей.
Я говорю «втёрся в доверие», потому что спустя некоторое время ему удалось избавиться от Маска. Разумеется, если бы Маск знал стратегию Альтмана, он бы никогда не согласился создавать с ним компанию. Но Альтман искусно замаскировал свои намерения и мастерски их реализовал. Он заручился поддержкой двух других ключевых участников проекта — Грега Брокмана (технический директор) и Ильи Суцкевера (главный научный сотрудник) — чтобы назначить себя, Альтмана, генеральным директором OpenAI.
Таким образом, когда между видением Маска и видением Альтмана начали проявляться расхождения, поддержку получила позиция последнего.
После того как у компании возникли финансовые трудности, Маск покинул её. Он был слишком занят двумя своими основными предприятиями — SpaceX и Tesla. Ввязываться в борьбу за власть внутри OpenAI, будущее которой оставалось неопределённым, было для него слишком затратно.
Маск допустил здесь ошибку, которую допускали все, кто недооценил Альтмана. То есть практически все, кто с ним когда-либо имел дело. К тому моменту, когда Маск опомнился, было уже поздно — Сэм Альтман стал императором.
Так Альтман эффективно использовал финансовый, репутационный и социальный капитал Маска, чтобы получить контроль над проектом, который был бы для него недосягаем как для независимого предпринимателя.
(Впрочем, эта история ещё не окончена — Маск, осознав, что на самом деле произошло, подал на Альтмана в суд. Вполне возможно, что тот и впрямь упрётся лбом в стену. Скоро увидим.)
Диктатура Альтмана
Альтман ведёт себя как классический автократ. Он:
-
сначала собирает вокруг себя «единомышленников»
-
используя их талант, страсть и энергию, создаёт коммерчески привлекательный продукт
-
узурпирует право на принятие стратегических решений
-
систематически устраняет любого, кто может угрожать его единоличной власти
Таковы были Сталин, Мао и Гитлер. (Если считаете, что Трамп-король стоит на одном уровне с этими фигурами — можете добавить его в список. Хотя, на мой взгляд, он глупее любого из них.)
Итак, избавившись от Маска, Альтман переключился на Суцкевера. Правда, здесь он сам чуть не стал жертвой. Илья и некоторые другие высокопоставленные сотрудники OpenAI были глубоко обеспокоены поведением Альтмана. Именно это послужило причиной неудавшегося «бунта» внутри компании. 17 ноября 2023 года совет директоров OpenAI объявил о его увольнении, заявив: «Уход г-на Альтмана является следствием тщательной проверки со стороны совета, по итогам которой был сделан вывод, что он не был последовательно откровенен в своих коммуникациях с советом».
(Последовательно. Откровенен.)
Но «выживальщик» (как назвал Альтмана его наставник Питер Тиль) переиграл всех и здесь. Совет директоров не знал, что за его спиной стоят не просто влиятельные друзья — а те, кто доверял ему настолько, что считал любые действия против него несправедливыми.
Большинство сотрудников OpenAI подняли бунт. Две видные фигуры Кремниевой долины — Рид Хоффман и Брайан Чески — взяли на себя миссию по восстановлению Альтмана. Они обзвонили каждого влиятельного игрока в индустрии, призывая использовать любые средства для изменения ситуации. Microsoft, к тому моменту уже ставшая главным партнёром OpenAI, фактически предложила Альтману присоединиться к ним вместе со всеми лояльными сотрудниками. Все эти люди были убеждены: никто, кроме Альтмана, не знает единственно верного пути к созданию ИИ.
В результате силы оказались неравны, и совет директоров проиграл.
Альтман был восстановлен в должности, а места бунтовщиков в совете заняли лояльные ему члены.
Вскоре ушёл Илья Суцкевер.
Затем ушла Мира Мурати.
Ян Лейке и Джон Шульман тоже ушли.
Словом, в компании не осталось никого, кто мог бы оспорить хоть одно решение Альтмана. Он фактически стал диктатором.
Катехизис грубой силы
Не случайно я не упомянул Дарио и Даниэлу Амодеи среди ушедших — они покинули компанию ещё в 2020 году. Формально причиной стал конфликт по вопросу безопасности ИИ. Но сейчас, оглядываясь назад, этот уход можно объяснить куда более меркантильными соображениями семейства Амодеи.
С самого начала у Дарио были собственные планы. Судя по масштабу его нынешней деятельности, они вполне сопоставимы с амбициями Альтмана. Для Амодеи участие в OpenAI стало уникальной возможностью получить бесценный опыт и обзавестись нужными связями.
«Конфликт» к тому же послужил прекрасной отправной точкой для создания собственного имиджа поборника безопасности ИИ. С самого начала Амодеи постоянно поднимает эту тему, всячески позиционируя Anthropic как «благонамеренную» альтернативу OpenAI. Мол, в отличие от ChatGPT, Claude устроен совершенно иначе, и безопасность — его краеугольный камень.
Однако все эти заявления — не более чем маркетинговый ход. (Я подробно разобрал комедию безопасности Амодеи в другой статье.) В реальности Claude — концептуально — точная копия ChatGPT. Он построен на том же принципе вычислительной грубой силы.
Точно так же он не оставляет места ни для каких подходов, кроме больших языковых моделей. Более того, если Альтман продвигает этот подход как негласно единственно эффективный, то Амодеи подводит под него целую идеологию, изложенную в нескольких его эссе.
Центральная догма Амодеи: LLM — фактически единственный путь к построению AGI, достижимый через масштабирование.
Амодеи нигде даже не пытается исследовать природу реального интеллекта, словно его просто не существует. И точно как Альтман, он полностью игнорирует признание Суцкевера: концепция масштабирования себя исчерпала.
Важно подчеркнуть: Суцкевер открыто говорит, что мы должны продолжать исследования путей построения AGI, но Амодеи ведёт себя так, будто не слышит его. Вместо этого он прибегает к откровенным фабрикациям, приписывая своему ИИ человеческие характеристики: «изощрённость человеческого мышления», «некую форму опыта», «(человеческие) интересы» и «благополучие».
Таким образом, Альтман и Амодеи фактически играют на одном поле. Оба негласно тормозят нормальное развитие индустрии, вводя общественность в заблуждение баснями о скором достижении AGI (Альтман) или «мощного ИИ» (Амодеи). И оба следуют одним и тем же тупиковым путём, продиктованным траекторией стратегии, которую выбрал Альтман.
Заключение
Главный талант Альтмана — производить впечатление компетентного и казаться единомышленником тех, кого он может использовать для достижения своих личных целей.
К счастью, не все эксперты в области ИИ связаны корпоративными обязательствами, вынуждающими поддерживать ИИ-хайп. По большей части они раскусили Сэма Альтмана и уже понимают, кто такой Дарио Амодеи.
Но для нас важны не столько личности этих двоих, сколько понимание причин, по которым развитие ИИ пошло вкривь и вкось.
Почему герои индустрии ИИ — по-прежнему всё те же Сэм Альтман, Дарио Амодеи, Дженсен Хуан плюс Илон Маск и ещё горстка фигур помельче, но не более высокого морального калибра?
Потому ли, что все они сверхбогаты, а наше общество автоматически считает их успешными?
Я бы перевернул этот аргумент: они успешны и сверхбогаты именно потому, что таков тип личности, востребованный современным бизнес-сообществом.
Личность Сэма Альтмана — самый характерный пример. Всем, чего он достиг, он обязан своей уникальной способности находить эффективный подход к людям, обладающим ресурсами, необходимыми для достижения его, Альтмана, целей.
Это, разумеется, не просто люди с деньгами, властью и влиянием. Эти люди одержимы идеей приумножения денег, власти и влияния. Это люди с глубоко патологическим складом ума. Им всегда мало.
А Альтман предлагает им секретный инструмент, позволяющий опережать других столь же одержимых людей.
Как вирус, он встраивается в ментальные контуры таких людей, проникает внутрь — и тем или иным образом получает доступ к их ресурсам.
Маску он продал идею «Манхэттенского проекта для ИИ». Маск клюнул — и Альтман смог использовать его имя, авторитет и опыт, чтобы стремительно двинуть OpenAI вперёд.
Затем он проник в сознание Брокмана и Суцкевера, стал CEO компании — и вскоре избавился от партнёра.
Он также проник в сознание большинства сотрудников OpenAI, что позволило ему отменить собственное увольнение советом директоров.
И конечно, он сумел рассказать убедительную историю Microsoft, Oracle, SoftBank и многим другим — о скором достижении AGI его компанией, — что позволило привлечь беспрецедентные объёмы инвестиций и вотум доверия. И то, и другое настолько масштабно, что теперь уже просто невозможно поставить под сомнение выбранный OpenAI путь.
И пузырь ИИ продолжает раздуваться, поглощая всё больше ресурсов, которые могли бы быть направлены на достижение целей, полезных обществу, — включая другие направления развития ИИ.
Но это не входит в планы Альтмана. Он будет продолжать действовать по-своему, пока пузырь не лопнет или пока не появится альтернативный подход к разработке ИИ, доказавший свою эффективность.
И я уверен: если произойдёт второе, он мгновенно развернётся на 180 градусов и станет его пламенным сторонником. А через пару месяцев ни один из его фанатов и не вспомнит, что когда-то он утверждал: путь к AGI лежит через LLM.
Но я бы предпочёл, чтобы первым произошло первое. На мой взгляд, таких людей, как Сэм Альтман, нельзя подпускать и близко к управлению компанией, которая занимается настоящим искусственным интеллектом.
А что думаете вы?
Автор: cognitronn
