Как спор об ИИ‑безопасности превратился в спор об Open Source

Странный раскол случился в ИИ‑индустрии. По одну сторону баррикад оказались инженеры, которым открытый код кажется естественной нормой жизни. По другую — респектабельные господа из закрытых лабораторий. Лица их серьезны, а в руках неизменно мелькают калькуляторы: они увлеченно высчитывают p(doom) — математическую вероятность скорого конца света. Высчитав, они стройными рядами идут к правительствам и просят закрутить гайки потуже. Я попробовал разобраться, что тут к чему. Иронии впереди будет много, а свое личное мнение я по традиции приберег для финала.

Сразу определимся на берегу: под открытыми моделями здесь и далее я имею в виду прежде всего системы с открытыми весами. Это не всегда Open Source в строгом, каноническом понимании Open Source Initiative. Для последнего нам потребовался бы полный доступ ко всем скрытым компонентам, позволяющим изучать и менять систему до винтика.

От таблеток от червей до Терминатора

Начиналось все удивительно здраво. В конце двухтысячных годов родилось движение эффективного альтруизма. Философы и прагматичные исследователи решили подходить к благотворительности с холодной головой. Зачем донатить приютам для бездомных котиков по наивному велению сердца, если можно математически ^[1] рассчитать, где именно каждый вложенный доллар принесет максимальную пользу? Классическим примером триумфа этой логики стали копеечные противогельминтные препараты для беднейших стран — затраты скромные, а терапевтический эффект колоссальный. Программистам и венчурным инвесторам из Кремниевой долины такой подход безумно понравился. Это выглядело красиво, прозрачно и логично ^[2], прямо как хорошая, оптимизированная библиотека.

Но затем в уравнение вмешался лонгтермизм, и стройная математика дала крен. Логика новых пророков оказалась обезоруживающе простой: спасать голодающих сегодня — это, конечно, благородно, но в туманном будущем родятся триллионы наших потомков. А неуправляемый искусственный интеллект ^[3] способен легким движением руки этих потомков просто «отменить». Значит, если судить математически, эффективнее всего бросить все ресурсы на спасение человечества от грядущего цифрового апокалипсиса.

И маховик завертелся. В инфополе ворвался гипотетический сверхоптимизатор, превращающий биосферу Земли в канцелярские скрепки. Элиезер Юдковский принялся публично жонглировать процентами вероятности глобальной катастрофы, а вокруг его идей стремительно выросла целая субкультура. Именно из этой экзотической питательной среды когда‑то и появилась знаменитая Anthropic — среди ее отцов‑основателей, первых сотрудников и ключевых инвесторов было слишком много людей, глубоко увязших в эффективном альтруизме.

Анатомия культа: от индульгенций до еретиков

Буквально за одно десятилетие прагматичное движение за эффективную благотворительность внутри IT‑гигантов мутировало в полноценную светскую религию Судного дня. И именно на этой метаморфозе зиждется главный идеологический раскол современности. В логике новоявленных пророков безопасность ИИ стала синонимом абсолютной секретности. Раз нейросеть потенциально способна уничтожить мир, её ни в коем случае нельзя выпускать в «дикую природу». Мощная модель с открытыми весами в руках обычных людей кажется им бомбой без предохранителя, которую невозможно контролировать со стороны закрытых корпоративных серверов. Так страх ^[4] перед цифровым апокалипсисом намертво связался с крестовым походом против открытого кода.

Сегодня здесь без труда можно отыскать все классические атрибуты древнего культа. Здесь есть свой Апокалипсис — пришествие грозного Сверхразума, который непременно вырвется из‑за хлипких стен лабораторий и пустит человечество на расходные материалы. Есть свои Жрецы и Пророки в лице аналитиков, которые с точностью до процента замеряют уровень метафизической угрозы и высчитывают точную дату Страшного суда. Нашлись и свои индульгенции: щедрое финансирование отделов «ИИ‑безопасности» за счет колоссальных миллиардных капиталов, сколоченных в Долине. Наконец, культ не обошелся без классической охоты на ведьм. Любой независимый ученый, который осмелится вслух заявить, что современные нейросети — это просто продвинутая прикладная статистика, а вовсе не зарождающийся в кремнии Бог, мгновенно объявляется безответственным хайпожором и еретиком.

Показательная история случилась в ноябре 2023 года, когда три из шести членов совета директоров OpenAI имели глубокие ментальные связи с эффективным альтруизмом, а Илья Суцкевер разделял их тревожные взгляды. Впрочем, драматичное увольнение Сэма Альтмана нельзя списывать на один лишь конфликт ^[5] вокруг безопасности. Позже независимое расследование аккуратно установило: истинной причиной стал банальный распад доверия между Альтманом и советом директоров, а вовсе не панический страх перед темпами разработки или качеством продуктов.

В этот неорелигиозный мейнстрим Долины со временем влилось подавляющее большинство крупных игроков, инвесторов и основателей закрытых лабораторий. Страх перед p(doom) стал для них не просто этическим кодексом, а правилом хорошего тона и пропуском в высокие кабинеты. Но даже у такой тотальной и респектабельной веры нашлись свои ярые, бескомпромиссные противники, готовые противопоставить панике жесткий научный ^[6] расчёт.

Ян ЛеКун: диагноз «LLM‑pilled»

Самым громким и харизматичным оппонентом лагеря доомеров предсказуемо стал Ян ЛеКун. В ноябре 2025 года он громко захлопнул за собой дверь Meta, уехал в Париж и основал AMI Labs. Уже весной следующего года его компания привлекла круглый миллиард долларов, сделав бескомпромиссную ставку на так называемые модели мира. Все апокалиптические сценарии коллег ЛеКун открыто называет абсолютным абсурдом, а саму современную индустрию считает тяжело больной — он ставит ей диагноз «LLM‑pilled». По его мнению, разработчики настолько увлеклись слепым масштабированием языковых моделей, что напрочь перестали замечать, куда вообще едет этот поезд.

И это не просто красивые слова для прессы. Чтобы доказать, что страх перед гигантским «всемогущим» ИИ технически необоснован, ЛеКун бьет по самому основанию философии доомеров — вере в то, что бесконечное раздувание моделей ведет к зарождению опасного сверхразума. В конце октября 2026 года он вместе с Рэндаллом Балестриеро выложил на arXiv препринт, посвященный гипотезе платоновских репрезентаций. Авторы наглядно продемонстрировали нечто поразительное: крошечная текстовая JEPA‑модель, имеющая за душой всего 109 миллионов параметров, выравнивается с визуальными энкодерами CLIP и DINOv2 качественнее, чем любые тяжелые языковые монстры. Включая признанных гигантов вплоть до 72 миллиардов параметров. При этом обучающих примеров малютке потребовалось аж в 42 раза меньше. Мораль этой истории проста и изящна: все дело в архитектуре и изначальном способе обучения ^[7], а вовсе не в физическом размере и количестве сожженного электричества. Давид в очередной раз вышел против Голиафа с пращой из правильных математических представлений.

Разумеется, не нужно спешить и хоронить классическую архитектуру GPT. Пока это лишь препринт, результаты заявлены самими создателями и касаются строго определенной метрики, а не абстрактного «общего интеллекта». Но мотивы исследователей и объемы их бюджетов сам научный результат никак не отменяют. Истинные научные споры испокон веков решаются исключительно чистым воспроизведением экспериментов в лаборатории, а не заглядыванием в чужие кошельки.

Илья Суцкевер: и нашим, и вашим, но честно

В отличие от диванных теоретиков апокалипсиса, настоящие прагматики всегда ищут ответы непосредственно в коде. В этом плане Илья Суцкевер неожиданно сходится с ЛеКуном — они оба наносят точные удары по догме слепого масштабирования. Бывший главный ученый OpenAI и основатель Safe Superintelligence очень долго и внимательно всматривался в эту манящую цифровую бездну. Но вернулся он оттуда с четкой, понятной исследовательской программой, а не с проектом очередного запретительного закона под мышкой.

Только не стоит опрометчиво записывать Суцкевера в пламенные друзья Open Source. Он — один из тех, кто сочетал искреннюю заботу о безопасности с последовательным закрытием кодов. Еще в далеком 2016 году в личной переписке с Илоном Маском Илья прозорливо отмечал, что по мере приближения к созданию сильного искусственного интеллекта будет разумнее становиться менее открытыми. А в 2023-м он и вовсе прямо заявлял, что выпускать исходный код продвинутых моделей в открытый доступ попусту неразумно. Однако его позиция вызывает глубокое уважение: она выросла из честной, глубокой инженерной оценки реальных рисков, а не из банального коммерческого лоббирования. Спорить с таким человеком можно по существу — и это редкая, изысканная роскошь в нашем жанре.

Пока Суцкевер ищет математические формулы укрощения суперсилы, а ЛеКун доказывает превосходство изящных архитектур, другие инженеры пытаются найти для этой технологической войны понятную и приземленную систему координат.

Андрей Карпатый: Linux для интеллекта

Андрей Карпатый, экс‑директор по ИИ в Tesla и сооснователь OpenAI, в громких политических интригах никогда замечен не был. Зато именно он подарил миру блестящую метафору, которую теперь с удовольствием цитируют на каждом углу. В своем докладе на YC AI Startup School он сравнил большие языковые модели с операционными системами.

В его концепции закрытые проприетарные модели от OpenAI, Anthropic и Google до боли ^[8] напоминают коммерческие Windows и macOS. В то же время открытые модели — это грядущий Linux для интеллекта. Сам Карпатый, будучи человеком осторожным, добавлял: экосистема Llama вполне способна вырасти во что‑то подобное. Правда, к концу 2026 года эта метафора приобрела горьковатый оттенок. Сама Meta фактически притормозила развитие линейки Llama после версий Scout и Maverick, перебросив основные силы на закрытую проприетарную модель Muse Spark. В итоге флаг свободного «Линукса» из рук Meta стремительно перехватили китайские открытые тяжеловесы вроде DeepSeek и Qwen, которые сегодня забирают себе львиную долю бюджетов в сегменте открытого кода. Но сама суть аналогии Карпатого от этого не изменилась — перед нами классический образ инженера от сохи: никаких туманных пророчеств, только понятные ориентиры, которые можно проверить практикой.

Но метафоры — метафорами, а реальный мир устроен жестче. И пока лучшие умы индустрии спорят о Linux и Windows, в игру вступает третья, самая неповоротливая и опасная сила — государственная бюрократия.

Как устроено регулирование: спойлер через FLOP

Пока инженеры увлеченно спорят об архитектурах в тиши своих лабораторий, государственные чиновники пытаются силой загнать этот бушующий цифровой океан в строгие рамки параграфов и законов. В США Указ администрации Байдена от 2023 года требовал жесткой отчетности от создателей самых мощных моделей двойного назначения. Главным критерием тогда назначили порог вычислений — более 10²⁶ операций при обучении. Создавалось комичное ощущение, будто реальная опасность алгоритма измеряется исключительно счетом за электроэнергию. Впрочем, в январе 2025 года пришедшая администрация Трампа этот указ успешно и безжалостно отменила.

В Евросоюзе ситуация выглядит гораздо запутаннее. В нашумевшем EU AI Act формально прописаны льготы и исключения для открытого софта. Но у этого исключения есть свое коварное исключение. Модель общего назначения рискует автоматически превратиться в системную угрозу из‑за объема вычислений — при затратах на обучение свыше 10²⁵ FLOP она априори признается обладающей высокими возможностями. С этого мгновения разработчик попадает в бюрократический ад: он обязан непрерывно оценивать риски, тестировать модель, сообщать о любых инцидентах и тотально следить за кибербезопасностью. А в качестве дополнительного бонуса даже те, кто остался под льготой, обязаны публиковать подробную сводку об обучающих данных и свято соблюдать законы об авторском праве.

Почему это бьет именно по Open Source

В этой точке сходятся два ключевых, фундаментальных свойства открытого кода. Во‑первых, опубликованные веса модели очень похожи на выдавленную зубную пасту — обратно в тюбик их при всем желании не вернешь. Государство способно контролировать физические дата‑центры и выдавать именные лицензии корпорациям, но оно бессильно стереть тысячи уже скачанных копий с пиратских торрентов. Именно поэтому любое регулирование, завязанное на контроле за распространением мощных моделей, всегда играет на руку тем, кто держит свои алгоритмы на закрытых серверах под семью замками.

Во‑вторых, выполнение бесконечных бюрократических требований — это адски, неправдоподобно дорого. Нужны огромные бюджеты, раздутые штаты профессиональных юристов и перманентный дорогостоящий аудит. Крупные технологические монополии держат для этих целей целые отделы, а маленькой независимой лаборатории или дерзкому стартапу такие издержки попросту не по карману.

Почему так вышло? Критики открыто говорят о классическом регуляторном захвате, когда закрытые компании умело используют страх общества перед гипотетической катастрофой, чтобы руками властей выжигать конкурентов на корню. Есть и более мягкая экономическая версия, известная как феномен «баптистов и бутлегеров». Когда за ограничение рынка одновременно выступают искренние моралисты и те, кому этот запрет коммерчески выгоден, никакой тайный заговор не нужен — вполне хватает банального совпадения интересов.

Честности ради стоит признать, что далеко не все, кто предупреждает об опасностях, ангажированы финансово. Джеффри Хинтон в свое время осознанно ушел из Google, чтобы получить право свободно говорить о рисках, а Йошуа Бенджио по сей день продолжает свою работу как независимый академический исследователь.

Но есть еще и жесткая, прагматичная геополитика. Как точно подметил ЛеКун, Китай сознательно сделал широкое распространение открытых весов одним из ключевых направлений своей национальной ИИ‑стратегии. Среди ведущих открытых платформ сегодня все отчетливее доминируют именно китайские разработки, и мировая академия вместе со стартапами активно опирается именно на них. Если бездумно закрутить гайки внутри западного мира, громкие лозунги о технологическом лидерстве рискует обернуться тем, что планета в итоге построит свои системы на китайском фундаменте.

Политизация: когда в спор входит Министерство обороны

К концу 2026 года этот затянувшийся спор окончательно перестал быть чисто техническим и стал жестко политическим. В сентябре Министерство обороны США выложило в социальных сетях хлесткий, почти плакатный лозунг: «Американизм, а не эффективный альтруизм». Оказывается, философские школы у нас теперь тоже могут официально признать не подпадающими под американские ценности.

А в феврале глава ведомства Пит Хегсет прямо обвинил Anthropic в высокопарной риторике эффективного альтруизма и объявил компанию прямой угрозой для национальной цепочки поставок. Поводом послужил принципиальный отказ разработчиков предоставить военным безусловный и полный доступ к своим моделям. Забавно, что на этом фоне Дарио и Даниэла Амодеи теперь активно заявляют в интервью, что никогда не состояли в этом движении и вообще не отождествляют себя с этим термином. Получается удивительный парадокс ^[9]: американская власть сама воюет с doomer‑активистами, а значит, главная регуляторная ловушка для открытых моделей сейчас находится в Брюсселе, а вовсе не в Вашингтоне.

Мое мнение

Сразу оговорюсь: все написанное ниже — это исключительно мое личное мнение, а не объективный вывод из обзора, и я с огромным удовольствием поспорю со всеми желающими в комментариях. На мой взгляд, нынешний апокалиптический хайп вокруг «безопасности ИИ» абсолютно неадекватен реальности. Давайте наконец называть вещи своими именами: перед нами классический пример раздутой паники и масштабного коллективного психоза, который полностью лишён какого‑либо объективного базиса.

Реальных фактов, которые давали бы хоть малейший повод всерьез трястись от страха, что искусственный интеллект внезапно «захватит мир» или «уничтожит человечество», в природе просто не существует. Для подобного исхода нет вообще никаких условий. Нейросети — это математические инструменты, послушно выполняющие вычисления на кремнии. У них нет и быть не может биологических мотивов выживания, у них отсутствует воля к экспансии, скрытые амбиции или эго. Считать ИИ экзистенциальной угрозой в данный момент — это не просто досадный перекос, это уход из реальной науки в область дешёвой фантастики.

И у меня есть четыре веских инженерных аргумента в пользу этой позиции.

Во‑первых, опасность сегодня опрометчиво мерят в попугаях, а точнее — в пресловутых FLOP. Порог в 10²⁵ или 10²⁶ операций невероятно удобен для юристов, но он вообще никак не отражает, что конкретная модель умеет делать на практике и чем она реально рискует. Показательно, что даже сами авторы европейского акта оставили за Комиссией право менять статус моделей на ходу — чиновники тем самым открыто расписались в поразительной грубости своей линейки.

Во‑вторых, бесконечные, пафосные разговоры о гипотетическом сверхразуме технично вытесняют из инфополя приземленные, но действительно горящие проблемы. Пока пророки воюют с мифическим Скайнетом, индустрия вязнет в банальной рутине — от непредсказуемых галлюцинаций моделей до воровства персональных данных и слива приватных архивов. Нам нужно чинить код и разбираться с архитектурой здесь и сейчас, а не строить баррикады против выдуманных роботов.

В‑третьих, за эту регуляторную политику игроки платят глубоко неравномерно. Технологические монополии, способные без труда содержать полки юристов и оплачивать бесконечные аудиты, этих правил не боятся — они их сами под себя и пишут. Эти законы душат только независимых разработчиков и тех, кто искренне верит в открытый код. По факту страх конца света стал удобной и красивой ширмой для банального выжигания конкурентов с рынка.

В‑четвертых, громкие утверждения о вероятности гибели человечества в принципе невозможно проверить экспериментально. В то же время ЛеКун и Суцкевер наглядно доказывают, что реальные вопросы предсказуемости и безопасности систем решаются обычными, скучными исследованиями в лабораториях, а вовсе не паническими заклинаниями про p(doom).

Давайте будем честны: если мы действительно хотим мерить реальную безопасность, давайте мерить ее тем, что можно воспроизвести на практике и подтвердить цифрами. Эти самопровозглашенные пророки индустрии ведут себя как мальчишки, начитавшиеся фантастических романов в глубоком детстве. Пора наконец спуститься на землю и открыто признать: за их великими страхами нет ничего, кроме раздутого хайпа и шкурного желания защитить свои коммерческие монополии.