Зачем Meta* уничтожает свой отдел разработки?

В течение двух десятков лет в компании Meta* существовал уникальный высокопроизводительный отдел разработки; всё закончилось в апреле этого года. На протяжении первых двух десятков лет работы компании в ней исповедовалась культура «двигайся быстро и ломай ненужное», в начале 2020-х сменившаяся на «двигайся быстро со стабильной инфраструктурой». Знакомые мне разработчики из этой компании говорили мне, что им представляли всё необходимое для качественной работ с упором на приносимую пользу, а интересы бизнеса находили баланс с надёжной разработкой.

Но за последние несколько недель всё поменялось: руководство начало исполнять подробные планы по разрушению проверенной успешной культуры разработки максимально жестоким и эффективным образом.

Недавно я уже говорил ^[1] о том, насколько тяжела ситуация для разработчиков в одной из самых престижных компаний Кремниевой долины. В этой статье мы обсудим произошедшее и попытаемся понять, на чём же основывалось руководство, превратившее отдел разработки ПО из центра принесения прибыли ^[2], которым он служил с 2004 года до недавнего времени, в презираемый центр генерации затрат, в который он превратился всего за несколько недель.

Мы рассмотрим следующие темы:

1. Культура разработки Meta* до ИИ

2. Вложения в ИИ и принуждение к его использованию разработчиками

3. Обращение с ведущими разработчиками, как с мусором

4. Самый позорный сбой за всё время существования компании

5. Внутренний хаос

6. Урон, нанесённый самой себе

7. Свойственен ли «ИИ-психоз» только Meta*?

1. Культура разработки Meta* до ИИ

Я бы разделил культуру разработки Meta* на две эпохи: «двигайся быстро и ломай ненужное» и «двигайся быстро со стабильной инфраструктурой».

«Двигайся быстро и ломай ненужное»

В 2010-х нетрадиционная культура разработки Facebook** почти достигла в технологической отрасли статуса легендарной: компания пошла против привычных практик и обрела огромный успех.

В 2012 году, когда в Facebook** появился миллиардный пользователь, компания выпустила небольшую печатную книгу о своей культуре; экземпляры этой книги разложили на столы всех сотрудников. Это издание, выполненное в дизайне ретропропаганды, получило название «маленькая красная книжица», позаимствованное у знаменитой книги мыслей Мао Цзэдуна (1964 год).

В этой 70-страничной книге была закодирована культура разработки Facebook**: скорость, бесстрашие, ответственность и нестандартный подход.

В ту эпоху мантры из маленькой красной книжицы Facebook** развешивались по кампусу:

• Двигайся быстро и ломай ненужное

• Готовое лучше идеального

• Ошибайся упорнее

• Что бы ты сделал, если бы не боялся?

• Каждый день ощущается, как неделя

• У братьев Райт не было лицензий пилотов

• Ждут дураки

• Удача благоволит смелым

Компания искренне делала упор на создание качественных продуктов. Вот ещё одна выдержка из книги:

Культура «двигайся быстро со стабильной инфраструктурой»

В 2022 году я опубликовал одно из самых глубоких исследований по теме культуры разработки Meta ^[3]*. К тому времени компания эволюционировала, и её безрассудство по большей мере отошло в прошлое; его заменил принцип быстрого движения со стабильной инфраструктурой. В то время я описал культуру разработки Meta* следующим образом:

«Её культура невероятно центрирована на разработке: гораздо больше, чем в большинстве крупных технологических компаний. Возможно, причина в том, что Марк Цукерберг сам разработчик, или в том, что основные инновации на ранних этапах Facebook** возникали благодаря разработчикам.

Упор на индивидуальный вклад. Вклад разработчиков был главным для Facebook**. Так было с самого зарождения компании; упор на принесение пользы сохраняется и сегодня.

Общей для всех крупных технологических фирм особенностью остаётся то, что упор в культуре разработки и в общей культуре в основном делается на личный вклад. В результате этого некоторые люди выбирают кратковременные измеримые победы, из-за чего командная работа и разделение побед между группами могут вознаграждаться меньше.

Отсутствие жёстко заданных процессов. Похоже, в Facebook** было меньше всего устоявшихся процессов и стандартизации среди всех больших технологических компаний. Не стоит и пытаться сравнить её с культурой разработки Amazon и бесчисленным количеством формальных процессов. Но даже по сравнению с компаниями наподобие Google, Microsoft или Uber процессы Facebook** были гораздо более гибкими. В основном это связано с центрированием на разработке и нелюбовью инженеров к процедурам.

Удивительно низкое внимание ^[4] к тестированию, документации и комментариям в коде. Вы удивились бы, насколько плохо автоматизировано тестирование и документация в Facebook по сравнению с остальным BigTech. Редко можно встретить и комментарии в коде.

Компания, руководимая основателем-разработчиком. Facebook** — одна из немногих технологических гигантов, основателем которых стал разработчик, по-прежнему остающийся CEO. Ещё один пример подобного — Netflix, основателем и одним из CEO которой был Рид Хастингс, до создания компании работавший разработчиком ПО. До недавнего времени примером этого была и Amazon, но не Google с Apple. Есть хорошие примеры компаний меньшего размера, например, Cloudflare, но все они моложе Facebook**.

Буткэмп. Уникальный процесс онбординга, непохожий ни на чьи другие. Подробнее я рассказываю об этом в разделе Bootcamp & onboarding section ^[5]».

Кроме того, Facebook** как продукт имел одну из самых изощрённых систем автоматического развёртывания в отрасли. Instagram** имеет проверенную в боях инфраструктуру, в которой было почти тривиально просто запустить новую социальную сеть (Threads**), к которой всего за неделю присоединилось сто миллионов пользователей.

Мои знакомые разработчики из компании — это способные, мотивированные, ориентированные на продукт люди, чья работа высоко ценилась. CEO Марк Цукерберг оказывал очень сильное влияние: он лично писал код первой версии Facebook**, продолжал оставаться близко к разработке и высоко ценил разработчиков ПО. Разработчики чувствовали, что они работают в центре принесения прибыли.

2. Вложения в ИИ и принуждение к его использованию разработчиками

Meta* была единственной компанией из большой пятёрки (она, Apple, Microsoft, Amazon, Google), не владевшей аппаратной платформой или операционной системой. У Apple были iPhone, iPad и Mac, у Google — Android, ChromeOS и телефоны Pixel, у Microsoft — Windows, а у Amazon —Kindle.

Оглядываясь назад, можно прийти к выводу, что нынешний Марк Цукерберг решил не терять возможности создания собственной платформы, как это произошло в 2010 году, когда компании не удалось разработать свою мобильную ОС или мобильный телефон.

Это одна из причин таких больших вложений в виртуальную реальность с Oculus и в дополненную реальность с Meta Glasses. В 2021 году Facebook** сменил название на Meta*; тогда казалось, что VR и metaverse могут стать чем-то крупным. Миллиарды долларов были потрачены на то, чтобы Meta* стала лидером рынка в этой сфере. Однако VR снова не получила широкой популярности; после завершения пандемии интерес ^[6] широкой публики к этому сегменту существенно упал.

Когда стало очевидно, что мегатрендом в 2022 году станет ИИ, Цукерберг не упустил возможность: он собрал внутри компании группу FAIR (Fundamental AI Research), а также организацию по выпуску продуктов GenAI и выпустил несколько моделей ИИ с открытыми весами:

• Llama 1: выпущена в феврале 2023 года, через три месяца после ChatGPT; разработана FAIR

• Llama 2: в июне 2023 года; разработана организацией по продуктам GenAI (как и все последующие модели Llama)

• Llama 3: в апреле 2024 года. Эта модель стала самой конкурентоспособной LLM Meta* из всех и использовалась многими в отрасли

• Llama 4: в апреле 2025 года. Эта модель сильно разочаровала

В июне прошлого года Meta* приобрела 49% Scale AI для перезапуска своих разработок в сфере ИИ, потратив на это аж 14,8 миллиарда долларов, а также пригласила руководить стратегией по ИИ CEO Scale AI Александра Вана. Сейчас под вопросом находится приобретение китайского стартапа Manus AI за 2 миллиарда долларов: правительство Китая заблокировало завершение сделки.

Судя по вложениям в Scale AI и Вана, становится очевидно, что Meta* и Цукерберг решительно настроены создать передовую LLM, способную конкурировать с последними версиями Claude и ChatGPT. Однако Meta* придётся начинать практически с нуля, поэтому всё зависит от Александра Вана.

Scale AI привнесла в Meta* крайне специфичный опыт ^[7], эта компания — одна из лучших в отрасли по:

• Обучающим данным и разметке: Scale создавалась как поставщик высококачественных размеченных датасетов для машинного обучения ^[8] и обучения ИИ, в том числе кода, текстов, изображений, видео и так далее.

• RLHF и fine-tuning: используемое Scale RLHF (обучение с подкреплением ^[9] на основе отзывов), при котором живые люди дают отзывы на работу фундаментальных моделей в качестве движка данных «human in the loop», позволило ведущим лабораториям ИИ совершенствовать свои LLM.

Похоже, Вану предоставлен большой объём власти в сфере его специальности: создании обучающих данных, разметке данных и RLHF. Всё это выполняется на основе труда разработчиков Meta* и слежки за ними.

Проблема 1: отслеживание клавиатурных нажатий и щелчков мыши без возможности отказаться. В конце апреля руководство Meta* сообщило разработчикам, что они будут работать в системе, отслеживающей каждое нажатие и щелчок для генерирования обучающих данных нового ИИ Meta*. Отказаться от этого невозможно.

Разумеется, это бесцеремонное решение, поднимающее вопросы о конфиденциальности: будет ли инструмент следить за пользователем, когда он входит в личный банковский счёт? А когда он пишет личное электронное письмо или отвечает на личный звонок? Meta* не проводила консультаций и не позволяет обойти эту систему; решение спущено сверху и внедряется принудительно.

В этом месяце Reuters сообщил ^[10], что тревоги людей наконец-то были услышаны:

«Meta* частично откатывает часть своего плана по сбору перемещений мыши, нажатий и других действий сотрудников для генерации обучающих данных ИИ. Спустя недели ожесточённого сопротивления персонала эту информацию передали во внутренней рассылке.

Новые элементы управления позволяют сотрудникам приостанавливать сбор данных на период до получаса и затребовать исключений из этой инициативы; автором рассылки стал Стефан Касриель — вице-президент отдела Meta* Superintelligence Labs, занимающегося разработками ИИ».

Из разговоров с разработчиками Meta* я понял, что система логгинга не была развёрнута в Великобритании из-за законодательства о защите данных.

Проблема 2: 30-50% разработчиков в фундаментальных командах были принудительно переброшены на разметку данных и RLHF, что ещё больше разозлило сотрудников. Тоже в конце апреля команды по разработке продуктов получили предписание о переходе 30-50% разработчиков в организацию ADO (Agent Data Optimisation).

Из-за традиционной культуры разработки здесь очень важна именно «принудительность». С момента основания компании в 2004 году и до прошлого кода Meta* предоставляла разработчикам автономию в выборе, где и над чем работать. Это отражало структуру работы компании:

• Разработчиков нанимали не в конкретную команду (за исключением некоторых высоких уровней), а в компанию

• В течение шестинедельного буткэмпа новички знакомились с культурой разработки Meta* и выбирали команду

• Для выбора команды они общались с теми командами, в которых было свободное место, выполняли с ними небольшую совместную работу и находили подходящую

• Переводы внутри компании выполнялись легко, часто их инициаторами были сами разработчики

Процесс выбора команды через буткэмп постепенно начали сворачивать примерно в 2024 году, но любой разработчик Meta* с хотя бы двухлетним опытом знал, над чем выбрал работать, и, разумеется, выбирал ту область, где может принести больше всего пользы. Но тут внезапно их переводят в отдел, где польза от их работы неочевидна, труд не требует квалификации, а слишком долгое его выполнение точно повредит их карьерным перспективам.

«Разметка данных» — достаточно сложная, хоть и монотонная работа. Есть задачи разметки, в которых сотрудник создаёт сайт, потом оценивает его и решает, хорошо ли он выглядит, давая свой отзыв: это «типичная» разметка данных. Однако это довольно редкий тип работы. Существуют и более сложные задачи обучения ИИ, которые могут выглядеть так:

• Придумать задачу, которую должен выполнить ИИ

• Написать тесты, подтверждающие результат

• Упаковать всё это в контейнер Docker с помощью фреймворка Harbor ^[11]

• Прочитать код, который пишет ИИ; часто это происходит на основе отзывов от множества моделей; затем дать обратную связь

Эта работа непроста, и вы видите, что для её выполнения нужны хорошие разработчики ПО, однако она очень быстро становится монотонной. Большинство разработчиков, с которыми я общался, говорит, что сложно найти мотивацию ^[12] заниматься ею каждый день. С другой стороны, один из разработчиков сообщил, что, варьируя используемые технологии и усложняя себе задачу, они делают эту работу мотивирующей и интересной! Этот сотрудник ожидает, что когда этап обучения завершится, у него будет больше работы по разработке ПО. Можно сделать из этого вывод: когда жизнь даёт тебе лимоны, можешь или жаловаться на это, или делать лимонад, как поступил этот разработчик.

Такое обучение проводится в отрасли ИИ в тайне, а за подобную работу поставщики предлагают разработчикам от ста долларов в час. Ходят слухи, что OpenAI и Anthropic тратят больше денег на эти среды обучения (чтобы их модели отлично справлялись с кодингом), чем на сами прогоны обучения моделей!

От таких переводов больше всего пострадали команды, занимающиеся инфраструктурой и безопасностью. Я говорил со множеством инженеров из инфраструктурных отделов, 30-50% команд которых перекинули в отдел ADO. В некоторых случаях забрали лучших.

Один инженер рассказал, что чувствует себя, как в фильме «Голодные игры», где трибутов случайно выбирают и помещают в совершенно иную среду. Только в Meta* это затрагивает гораздо большее количество людей: от трёх до пяти людей из команды на десяток разработчиков перестаёт создавать продукты, которыми пользуются сотни миллионов людей, и начинает бесконечно давать отзывы на сгенерированные ИИ репозитории GitHub.

В отделе ADO уже работает 6,5 тысячи людей, больше, чем в OpenAI и Anthropic. Примерно четыре-пять тысяч из них — разработчики ПО. В Meta* примерно 25 тысяч инженеров, то есть каждый из пяти-шести разработчиков ПО сейчас на полную ставку занимается разметкой данных.

Как можно догадаться, люди активно ищут новую работу, и никто не добавляет в своё резюме в LinkedIn и на других ресурсах строчку «разметка данных в Meta*».

Я общался с людьми на этой работе, и им она не нравится; их злит такое решение, принятое сверху. Плюс в том, что у них всё ещё есть работа, они сохранили свою зарплату и их не увольняют. У них всё ещё есть время уйти из Meta* в другую компанию со сравнимой зарплатой, где не нужно будет заниматься разметкой данных.

3. Обращение с ведущими разработчиками, как с мусором

Проблема 3: растянувшаяся на месяц игра в ожидание, подогревшая страхи в персонале. 20 апреля Reuters сообщило ^[13], что Meta* планирует за месяц уволить 10% сотрудников; Meta* подтвердила эту новость. Из-за этого в течение четырёх недель все ощущали, что скоро они останутся безработными.

Начался перевод на задачи разметки данных. В то время я писал: ^[1]

«Разумеется, сотрудники испытывают сложные чувства по поводу перевода на другую работу и грядущих увольнений. 20 мая Meta* объявит об увольнениях. Возможно, те, кого перевели на разметку данных, будут в большей безопасности, чем их коллеги в продуктовых командах. Разумеется, это предположения, но было бы жестоко, если бы Meta* уволила разработчиков, переведённых на разметку»

Проблема 4: аттестация персонала в Meta* крайне агрессивна, поэтому разработчики оптимизируют все метрики. По моей информации, внутренний процесс аттестации персонала, PSC (Performance Summary Cycle), очень строг по сравнению с аттестацией в Google и Apple. Менеджеры Meta* «дерутся» за зарплаты своих подчинённых, в том числе и переманивая разработчиков из других команд, чтобы их отчёты ранжировались выше. При этом процессе метрики часто превращаются в оружие, будь то польза для бизнеса, количество ревью кода или количество написанных (до внедрения ИИ) строк кода.

Менеджерам спускаются квоты, определяющие, какую долю сотрудников следует отнести к каждой из «категорий», и затем между менеджерами разгорается внутренняя борьба за то, чтобы их подчинённые попали в более высокие категории.

Спустя несколько лет разработчики Meta* усвоили, что лучший способ не получить плохой рейтинг PSC — добиться того, чтобы все метрики (польза, количество коммитов и так далее) были выше, чем у коллег.

Проблема 5: потраченные токены учитываются при аттестации, поэтому разработчики агрессивно подстраиваются под это. Когда новость об увольнениях подтвердилась, разработчики также узнали, что при аттестациях менеджеры будут отслеживать и количество потраченных токенов. Из-за этого возникло беспокойство о том, что низкое количество токенов могут расценить, как низкую производительность, что приведёт к увольнению.

Какой же стала естественная реакция ^[14] на это разработчиков Meta*? Они начали пользоваться ИИ-инструментами ради генерации количества токенов. Это произошло, когда у Meta* велась внутренняя таблица лидеров по токенов, что подстёгивало максимальное их потребление (так называемый tokenmaxxing). 16 апреля я писал: ^[15]

«Согласно данным The Information, сотрудники Meta* суммарно потратили за 30 дней 60,2 триллиона ИИ-токенов. Если бы они оплачивались по ценам Anthropic API, то стоили бы 900 миллионов долларов. Разумеется, Meta*, скорее всего, приобретает токены с большими скидками, но сумма всё равно оказалась больше 100 миллионов долларов, в основном благодаря бессмысленному tokenmaxxing».

Самая большая проблема: люди перестали заботиться о реальной работе и сосредоточились на показателях. Давайте рассмотрим те меры, которые руководство Meta* решило внедрить на рабочих местах:

1. Отслеживание клавиатурных нажатий и щелчков мыши для всех разработчиков в пределах юридически возможного

2. Перевод большой доли разработчиков на разметку данных

3. Объявление о том, 10% из них будут уволены

4. Создание культуры, в которой разработчики подстраиваются в первую очередь под все метрики, оцениваемые при PSC

5. Учёт потребления токенов в рамках PSC

Что же мы получим, если хорошенько всё это перемешать? Два результата:

1. Все будут чрезмерно использовать ИИ для повышения личных показателей. Разработчики будут притворяться, что максимально работают с ИИ, а сами вносят минимальный вклад. Возникает странная система стимулов: если сбой произошёл из-за того, что код как следует не проверили, это не считается основанием для увольнения. А если ты написал код сам, вместо того чтобы поручить это ИИ-агенту, то можешь лишиться работы.

2. Все инженеры, давно работающие в компании, ищут новую работу или, по крайней мере, думают об этом. Те, кто уже давно находится в компании, устали от всего этого. Попробую объяснить это наглядно:

Свежие данные подтверждают, что с мая гораздо больше разработчиков Meta* пытаются уйти из компании. Вот график регистраций сотрудников Meta* в ведущем сервисе подготовки к собеседованиям в Big Tech interviewing.io ^[16] за последние полтора года: мы видим резкий скачок в мае:

Впрочем, надо отдать Meta* должное: множеству разработчиков, считающихся ключевыми в оставшихся командах, вручили щедрые пакеты акций ради их удержания в компании. Из-за этих компенсаций им сложнее будет найти более выгодные предложения. Тем не менее, я разговаривал с одним разработчиком, получившим такой пакет; он сказал, что эта компенсация помогла ему принять решение уйти как можно раньше, потому что его расстраивает отсутствие автономности и возможности контроля.

4. Самый позорный сбой за всё время существования компании

В фундаментальных командах Meta*, занимающихся инфраструктурой и безопасностью, внезапно возник сильный дефицит рабочей силы. Большинство людей пушило сгенерированный ИИ код, ревью которого проводил только ИИ, не уделяя особого внимания качеству. В конце концов, они столкнулись с вероятностью увольнения; в то же время им приходилось тушить пожары, управляя командами без половины лучших разработчиков; при этом они осознавали, что активность пользования ИИ может повлиять на их собственную гарантию занятости.

30 мая произошла самая досадная авария за всю историю Meta*. Вот краткая сводка ^[17] разработчика ПО Сиддхартха Сундхарама (выделение моё):

«Вчера было взломано множество аккаунтов Instagram**, в том числе и пользователей, имеющих высокий статус, например, Obama White House.

Я не новичок, почти пятнадцать лет я ищу уязвимости и эксплойты, но это совершенно точно самая несерьёзная из них всех. “Слишком глупо, чтобы быть правдой”.

Процесс захвата:

Этап 01: имитация местоположения и обращение в службу поддержки. Для начала нападающему нужно лишь имя пользователя аккаунта. Затем от подключается через VPN или прокси, близкий к местоположению пользователя аккаунта, чтобы алгоритмы безопасности Instagram** ничего не заподозрили. (Местоположение достаточно просто получить из публичного профиля, раздела “About” или сотней других способов.) Настроив нужный регион, нападающий сообщает ИИ поддержки Meta*, что аккаунт взломан, и просит отправить коды верификации на произвольный адрес почты, контролируемый им.

Этап 02: Вот и всё. Серьёзно, атака выполнена.

Первый сброс пароля с нулевой аутентификацией, который я видел в продакшене. Похоже, нет никаких дополнительных проверок того, что указанный почтовый адрес применялся пользователем ранее. Как только ИИ отправляет код безопасности на почту нападающего, тот сразу отправляет код обратно, чтобы пройти верификацию. Платформа передаёт ему новую ссылку сброса пароля, давая нападающему полные права доступа».

Эту дыру в безопасности можно сравнить с тем, что Meta* оставила свою сверхзащищённую бронированную дверь открытой, поэтому в неё может войти любой и никаких уведомлений никто не получит! Выглядит так, как будто Meta* заметила это, только когда пользователи начали писать о проблеме в соцсетях!

Пообщавшись с сотрудниками Meta*, я узнал, что причиной этого сбоя был ИИ. В основе этого смехотворного инцидента находится генерируемый и проверяемый ИИ код, а также сокращение команд, занимающихся безопасностью. Я нашёл следующую информацию:

• Команда Trust and Safety Team Instagram** потеряла примерно 50% своего персонала из-за перевода на разметку данных и увольнений. Некоторые из самых опытных разработчиков были переведены на задачи обучения ИИ.

• В течение последних двух месяцев в кодовой базе было множество сгенерированных ИИ изменений, которые не проверялись людьми, а проходили только ИИ-ревью. Изменение, вызвавшее этот сбой, походит на одно из подобных

• В обычной ситуации Trust and Safety Team должна заниматься всем мониторингом и алертами о нарушениях защиты, но сейчас она в полном беспорядке из-за быстрых внутренних перестановок.

Директор по безопасности Meta* уволился прямо на следующий день. Сбой был устранён в понедельник 1 июня, и в рамках процесса SEV началось расследование. Во вторних Директор по информации и безопасности Meta* (CISO) Гай Росен объявил ^[18] об увольнении.

Совпадение? Не думаю: CISO мог уволиться, если предупреждал, что отдел безопасности выпотрошили, но его проигнорировали, поэтому теперь он не доверят руководству. К тому же, как мне кажется, не CISO пришла в голову мысль перевести половину команды безопасников Instagram** на разметку данных.

Стоит отметить, что предыдущий худший сбой произошёл в 2021 году ^[19]: из-за проблемы конфигурации DNS / BGP сервисы Meta* не работали семь часов. Это была серьёзная авария, но я считаю, что Meta* справилась с ней хорошо. После этого сбоя Meta* опубликовала постмортем и извинения ^[20]. При последнем сбое с захватом аккаунтов Instagram** ничего такого не было.

5. Внутренний хаос

Wired подробнее рассказывает ^[21] о серьёзности текущей ситуации в Meta*:

«Согласно прослушанной WIRED записи, на этой неделе кто-то прервал презентацию, демонстрируемую сотрудникам в прямом эфире; не стесняясь в выражениях, он сказал, что компания “обращается с ним, как с шавкой”. Затем этот человек попросил ведущих презентации позвонить конкретному руководителю в отделе ИИ Meta* и “сказать ему, что он кусок дерьма”».

Этот инцидент, произошедший на созвоне, в котором участвовали тысячи сотрудников, отражает всё нарастающее напряжение внутри команды прикладного ИИ компании, сформированной в марте для поддержки работ исследователей ИИ в Superintelligence Labs. Три сотрудника рассказали WIRED о широко распространившемся недовольстве тем, что Meta* собрала отдел примерно из 6,5 инженеров и продакт-менеджеров, а также той тяжёлой работой, которую им приходится делать для совершенствования ИИ-моделей.

«Это буквальный гулаг. Внезапно из нашей жизни пропал всяческий смысл, мы почти ни с кем не общаемся и только выполняем каждую неделю эти задачи», — утверждает один из сотрудников.

Но и это ещё не всё: по сообщениям, директор Meta* по разработке программных продуктов Крис Кокс сказал сотрудникам, что хаос создало высшее руководство Meta* (люди, находящиеся выше него). Ещё одна цитата из Wired:

На проведённом на этой неделе совещании, открытом для всех работников Instagram**, CPO Meta* Крис Кокс заявил о «сложной» и «жестокой» среде, созданной за последние несколько месяцев «безумием этой компании». Кокс восхвалял сотрудников Instagram** за выпуск фич и обслуживание почти двух миллиардов пользователей в то время, когда «мы бежим марафон в ливень, наших коллег увольняют, а за нами следят»

6. Урон, нанесённый самой себе

Кто же стал первоисточником «безумия этой компании»? Инженеры, с которыми я общался, называют двух людей: Марка Цукерберга и Александра Вана. У Цукерберга есть полный контроль над бизнесом, он принял решение о переводе большой доли разработчиков на разметку данных, об установке ПО для слежки и об увольнении 10% персонала во время, когда Meta* достигла рекордных прибылей и доходов. Он CEO, поэтому ответственность лежит на нём.

Но не трудно увидеть, что все действия Meta* (за исключением увольнений) взяты из примера Scale AI, а значит, исходят от Вана:

• Обязательная слежка за клавиатурами и мышами для генерации обучающих данных

• Принудительная разметка данных 4,5 тысячами разработчиков для создания высококачественного RLHF; наверняка это делается для разрабатываемой компанией кодинг-LLM

• Решение о переводе лучших инженеров из самого сердца бизнеса совершенно точно подписано Цукербергом, считающим, что Meta* важнее обучать ИИ для кодинга, чем надёжно поддерживать её базовый бизнес: Instagram**, Facebook** и Messenger**. А, кстати, я говорил о том, что 12 июня в Facebook** и Instagram** случилось ещё одно SEV0 ^[22], то есть полномасштабная авария?

До того, как всё это произошло, Meta* готова была ^[23] к концу года перехватить у Google первое место в мире по объёму рекламного бизнеса. Но по какой-то причине Марк Цукерберг решил, что важнее создать LLM для кодинга.

Сейчас руководство Meta* пытается оправиться от того урона, который нанесло компании. Wired сообщает, что CTO Meta* Эндрю Босворт признался ^[24] сотрудникам, что ИИ-реогранизация была ужасной и обещал в будущем наладить более тесный контакт с персоналом.

Мне кажется очевидным, что Цукерберга не волнуют чувства разработчиков, связанные с сильными изменениями, и что Босворт, скорее всего, игнорировал хаос, хотя разработчики точно знали, что бизнесу важнее новая модель ИИ, чем их работа. Также Босворт заявил, что сотрудникам предоставят доступ к ИИ-консультантам. Очень разумно, учитывая сложившуюся ситуацию!

Судя по изученной информации, культура разработки Meta* уже мертва: руководство чётко донесло, что разработка в компании стала центром затрат.

Разумеется, я буду рад, если мои оценки не оправдаются, но пока от Цукерберга и Вана не поступало никаких сигналов об изменениях. Возможно, если в ближайшее время такие серьёзные изменения, как перевод на разметку данных и слежка за персоналом, откатят, то всё в Meta* вернётся в норму. Чем дольше будут сохраняться текущие условия, тем сильнее будет желание опытных разработчиков уйти.

7. Свойственен ли «ИИ-психоз» только Meta*?

Печально видеть, что технарь-основатель Meta* так сосредоточен на ИИ, что пренебрегает разработчиками, создавшими фундамент его компании. Но уникальна ли в этом Meta*?

Митчелл Хасимото (создатель Ghostty, основатель HashiCorp) рассказывает ^[25], что наблюдал похожее поведение ^[26] и у других основателей (выделение моё):

«Я уверен, что сейчас целые компании находятся под сильным воздействием “ИИ-психоза”, и что с ними невозможно вести рациональные обсуждения. Не могу называть конкретных людей, потому что среди них есть и мои личные друзья, которых я глубоко уважаю, но меня беспокоит, во что это всё выльется.

Я пережил момент великой расплаты за MTBF против MTTR (mean-time-between-failure против mean-time-to-recovery) инфраструктуры во время перехода на облака и облачную автоматизацию. Все эти споры начинаются снова, но теперь… ими охвачена вся отрасль разработки ПО (а может быть, и весь мир).

Это пугает, потому что охваченные «психозом» исповедуют почти абсолютный принцип «MTTR — это всё, что нужно»: «нормально выпускать код с багами, потому что агенты будут устранять их так быстро и в таких масштабах, которые не снились живым людям!». Мы узнали, что MTTR в инфраструктуре — это здорово, но отказываться от надёжных систем полностью нельзя.

Главная проблема в том, что я даже не понимаю, как донести это до людей, которых знаю лично, потому что при поднимании подобных тем они сразу начинают отмахиваться: «нет-нет, у нас есть полное покрытие тестами», «количество баг-репортов снижается» или говорят ещё что-то подобное, что не даёт общей картины.

Мы уже сталкивались с подобным в инфраструктуре: можно заавтоматизироваться настолько, что получишь очень надёжную машину апокалипсиса. По локальным метрикам системы могут казаться рабочими, однако в глобальном масштабе становиться непостижимыми. Количество баг-репортов может снижаться, хотя лавинообразно увеличивается количество скрытых угроз. Покрытие тестами может увеличиваться, а семантическое понимание кода — падать. Изменения происходят так часто, что никто не замечает гниение внутренней архитектуры.

Я встревожен».

Проблема с захватом аккаунтов Instagram** заключалась именно в этом: команда разработки уронила планку качества из-за генерируемого и проверяемого ИИ кода, вероятно, ожидая, что сможет быстро восстанавливаться в случае сбоев. И она действительно восстановилась… после того, как ущерб уже был нанесён, были взломаны аккаунты Instagram**, а система скомпрометирована. И всё это в публичном поле.

Митчелл подчёркивает настораживающую склонность основателей переоценивать возможности ИИ, из-за чего компании отказываются от разумных мер защиты при выпуске кода в продакшен.

Выводы

Большинство из нас, вероятно, должно сделать выводы из катастрофических событий, вызванных гиперфокусом Meta* на ИИ в ущерб людям, ставшим основной компании. Есть и хорошие новости: я слышал, что в Великобритании часть из увольнений внезапно была отменена: в конце обязательного периода консультаций многие команды, занимающиеся инфраструктурой и безопасностью, узнали, что их разработчиков никто не уволит, хотя ранее это ожидалось.

Бизнес Meta* растёт, и она уже пользуется выгодами ИИ посредством увеличения доходов от рекламы. В то же время моя лента в Facebook** заполнена поддельными видео, сгенерированными ИИ, под которыми оставлены сотни комментариев ботов и людей, не понявших, что это ИИ. Похоже, у Meta* просто появилось больше контента, рядом с которым можно показывать рекламу.

Тем не менее, несмотря на успехи в бизнесе, руководство Meta* нанесло максимальный ущерб своему отделу разработки. Очевидно, теперь оно начинает осознавать, что изменения были бессмысленными.

Если вы руководитель и чувствуете искушение внести в существенные организационные изменения из-за ИИ, то сделайте глубокий вдох и почитайте, до чего это довело Meta*. Если же вы разработчик в компании, руководство которой слишком полагается на ИИ, то попробуйте отправить ему эту статью для дополнительного контекста.

Если вы ищете выдающихся разработчиков, которые крайне хорошо освоили ИИ, то переманить сотрудников из Meta* сейчас как никогда легко. Все знакомые мне инженеры из компании начали крайне рано осваивать ИИ,. они знают, как создавать продукты и инфраструктуру искусственного интеллекта ^[27]. Этим людям надоела компания и её руководство. Потери Meta* будут находкой для стартапов и для крупных технологических компаний в целом; наверно, это преимущество ИИ будет довольно неожиданным… по крайней мере, для Meta*!

Похоже, что старая мантра «двигайся быстро и ломай ненужное» теперь применяется и к отделу разработки Meta*, ведь компания стремится максимально вкладываться в ИИ, чтобы не упустить последний мегатренд технологической отрасли.

_{Meta Platforms*, а также принадлежащие ей социальные сети Facebook**, WhatsApp** и Instagram**: — признана экстремистской организацией, её деятельность в России запрещена; * — запрещены в России.}