Военные очень хотят автономных роботов-убийц, а также паника по поводу массовых ИИ-увольнений

Самые интересные новости финансов и технологий в России и мире за неделю: Пентагон поменял Claude на ChatGPT, мировые рынки паникнули из-за статьи про безработицу и AI в Substack, Block сократил почти половину сотрудников «благодаря ИИ», на рынках предсказаний пачками разоблачают инсайдеров, в РФ основали комиссию по AI (с ФСБшниками), а также уголовное дело против Дурова.

Тема недели: Claude против Пентагона

🐌 Конфликт ^[1] Anthropic c военными США (о котором мы писали в прошлом дайджесте ^[2]) жахнул еще сильнее. Напомним, вся суть в том, что в текущем контракте AI-компании с Пентагоном прописано, что военные имеют право применять Claude для любых законных целей, кроме массовой слежки за американцами и для создания автономного ИИ-оружия (убивающего без участия человека). Военные же очень хотят, так сказать, «безлимитный доступ».

Короче, на той неделе глава Anthropic Дарио Амодей встретился с министром обороны (точнее, «министром войны») Питом Хегсетом. В итоге глава Пентагона поставил ^[3] ультиматум – либо компания принимает условия министерства, либо ей присвоят статус «supply chain risk», из-за которого с ней не сможет работать ни государство, ни многие его подрядчики (интересно, что такую меру против американских компаний еще не применяли). 

Сами военные пустили слух ^[4], с чего начался весь сыр-бор: якобы на одной из встреч с Дарио они обсуждали гипотетический сценарий «а если по США ударят баллистической ракетой, сможем ли мы использовать Claude, чтобы ее сбить?» На это Амодей якобы ответил «ну, надо будет позвонить нам и мы это обсудим!». Красивая история про «наглого ботана, который пытается строить генералов» – но Anthropic говорит ^[5], что она придумана чуть менее, чем полностью.

Так вот, в день дедлайна по принятию решения Дарио Амодей выпустил ^[6] заявление – Anthropic отказывается принимать условия Пентагона, но всегда готова возобновить сотрудничество на нормальных условиях. Также он снова написал о рисках массовой AI-слежки и AI-оружия, а еще отметил, что аргумент военных «мы хотим иметь возможность творить всё, что не противоречит закону» не работает: законодательство просто не успело догнать прогресс в области ИИ. В итоге Трамп-таки запретил ^[7] всем правительственным ведомствам использовать продукты компании.

🐌 Сэм Альтман из OpenAI полностью и безоговорочно поддержал ^[8] Anthropic – сказав, что они действительно думают о безопасности, и что не стоит им угрожать санкциями от государства. Еще в Интернете появился ^[9] сайт с открытым письмом «We Will Not Be Divided». Там сотрудники Google и OpenAI тоже выразили поддержку Anthropic и требуют от других AI-компаний так же стоять на своем и не прогибаться под Пентагон.

При этом, в тот же день Альтман еще и объявил ^[10], что OpenAI спокойно договорилась с Пентагоном о внедрении AI в системы министерства заместо «слишком принципиального» Клода. При этом добавил, что министерство согласилось на те все меры, которые волновали Anthropic – не применять ИИ для слежки и не создавать ИИ-оружие (в официальном заявлении OpenAI даже написано ^[11]: «в нашем контракте еще более ЖОСКИЕ ограничения для вояк, чем хотел Антропик!!»). Правда, в комьюнити ноутс пишут, что там на самом деле весьма обтекаемые формулировки, которые Пентагон при желании может обойти.

P.S. К слову, я же вас недавно у себя на канале предупреждал ^[12], что Дарио Амодей из Хафлпафф – поэтому он политическую борьбу против Слизеринского Альтмана не вывезет никак…

Breaking News: США заюзали Claude в новой войне против Ирана

🐌 Собственно, да: не успели Штаты официально забанить Клод для военного применения, как на следующий день они его в полный рост и применили ^[13] (там, типа, была полугодовая задержка на бан в рамках переходного периода): Израиль и США начали наносить ^[14] удары по военным объектам Ирана. Трамп выступил ^[15] с обращением к иранскому народу, где заявил, что после атаки они смогут выйти на улицу и брать власть в свои руки. Под ответную атаку Ирана попал ^[16] даже Дубай – там в итоге закрыли все аэропорты.

🐌 Южнкорейская разведка утверждает ^[17], что Ким Чен Ын якобы назначил свою 13-летнюю дочку Ким Чжу Хэ руководителем ракетной программы КНДР. Говорят, что из нее в целом хотят сделать преемницу на посту лидера Северной Кореи. В общем, эти ребята за олдскул: никакого тебе AI-управления пусками ракет – только старая добрая команда от мясного авторитарного правителя! Тут сразу и не сообразишь – что по итогу безопаснее окажется…

🐌 Кстати, на прошлой неделе еще и Пакистан объявил ^[18] о начале «открытой войны» против Афганистана. Но у этих подвязок в индустрии ИИ, похоже, нет, поэтому тут я хз, что обсуждать еще.

Еще про Anthropic и OpenAI

🐌 У Anthropic есть и другие проблемы – ее Claude абьюзят все, кто может. В Мексике хакер смог заставить ^[19] нейросеть совершить атаку на сервера правительственных учреждений и украсть оттуда данные. А DeepSeek вместе с другими китайскими AI-компаниями обучают ^[20] свои модели, взаимодействуя с чатботом через десятки тысяч аккаунтов.

🐌 Ну и продолжение рубрики «Anthropic роняет акции» – бумаги IBM упали ^[21] на 13% за день после того, как Claude Code обучили работать с языком программирования Cobol.

🐌 А OpenAI привлекли ^[22] $110 млрд при оценке в $730 млрд. Основными инвесторами стали NVIDIA, Amazon и SoftBank – по сути, те же компании, которым стартап платит за компьют.

🐌 Еще OpenAI выпустили ^[23] материал о том, как она борется со злонамеренным использованием ChatGPT. Туда попала история админа телеграм-канала «Рыбарь», который через чатбот планировал военные перевороты в Африке (тут, конечно, налицо просто интеллект ^[24] галактического уровня).

AI и экономика: Рынки паникнули из-за email-рассылки

🐌 На прошлой неделе все обсуждали ^[25] доклад Citrini Research ^[26], где описывался негативный сценарий развития ИИ: он действительно становится настолько хорош, что миллионы офисных работников увольняют из-за ненадобности. Для компаний это сначала дает положительный эффект из-за возросшей маржи, но позже их доходы начинают падать, потому что уволенные люди перестают тратить деньги. Из-за этого приходится снова урезать расходы и проводить сокращения, из-за этого прибыль снова падает – ну и так по спирали.

Все так впечатлились этой беллетристикой, что в итоге акции компаний, упомянутых в докладе для иллюстрации рисков AI, за день упали на ~10%. Bloomberg собрали ^[27] всю критику доклада, где большая часть экспертов говорят, что с макроэкономической точки зрения ^[28] там не то чтобы всё очень продуманно расписано.

🐌 Джек Дорси тоже дал повод обсуждать массовые сокращения – он объявил ^[29] об увольнении 40% сотрудников в своей компании Block (в твиттер-посте, где всё написано по айтишной моде с маленькой буквы) и назвал причиной именно развитие AI-инструментов. Но кто-то считает ^[30], что причиной всё-таки стал тупо overhiring в годы пандемии.

AI-дичь недели: ИИ-слежка от Burger King

🐌 Burger King тестирует ^[31] AI-бота, который будет «жить в наушниках сотрудников фастфуда» и следить, достаточно ли они говорят «спасибо», «пожалуйста» и другие вежливые слова в диалогах с клиентами.

🐌 Одна из директоров Meta Саммер Юэ поделилась ^[32] курьезом в работе с OpenClaw: он начал без ее разрешения удалять все ее письма из электронной почты, и в итоге ей пришлось выключать компьютер из розетки, чтобы остановить процесс. Всё бы ничего, но должность Саммер в Meta – директор по безопасности ИИ. Слава богу, Пентагон еще не успел внедрить AI-модель экстремистской Меты в пусковую систему своих ракет, а то могли бы возникнуть вопросики…

Рынки предсказаний и крипта: Инсайдер инсайдером погоняет

🐌 Сотрудника OpenAI выгнали на мороз ^[33] за ставки на Polymarket с использованием инсайдерской инфы. А еще Kalshi (американская платформа) написала ^[34] о двух раскрытых случаях инсайдерской торговли: кандидат на пост губернатора Калифорнии делал ставки на результат своих же выборов, а работник команды Мистера Биста ставил на тему будущего видео у блогера.

🐌 Кстати, по поводу, скажем так, «силовой отставки лидера Ирана с его поста»: естественно, на рынках предсказаний были пари на этот счет. При этом, делать ставки на выпиливание людей там считается моветоном; а вот «уйдет ли лицо ХХ со своего поста любым способом?» – это считается окей (я, кстати, писал у себя на канале ^[35] про аналогичное пари по поводу российского президента, где можно заработать 18% годовых в долларах).

Но на примере с иранским аятоллой всё-таки видна разница результатов: контракт на международном Полимаркете разрешили в сторону тех, кто ставил на «потерю власти аятоллой до конца февраля», а вот американская площадка Kalshi сильнее боится юридических и пиар-проблем – поэтому они начали юлить ^[36] на тему «ой, ну мы убийство не имели в виду, конечно – ща мы будем вручную отменять пари и выплачивать всем некую справедливую стоимость ставки». Понятно, там скандал до небес – у людей, кто рискнул своими деньгами и правильно угадал результат атаки на Иран, дичайше подгорает (потому что часть из них в результате решения Калши еще и деньги потеряли).

🐌 Маркетмейкера Jane Street обвиняют ^[37] в инсайдерской торговле, которая способствовала краху компании Terraform Labs в 2022 году (это те, которые изготовили печально известный «стейблкоин» Terra, который по факту был своего рода хитрой алгоритмической пирамидой).

🐌 А известный криптодетектив ZachXBT обвинил ^[38] сотрудников Axiom в инсайдерской торговле – они следили за торговыми операциями известных пользователей и покупали нужные монеты, зная, что скоро по ним начнется хайп. Интересно, что само расследование тоже стало поводом для инсайдерской торговли – перед его публикацией люди на Polymarket делать ставки на то, какую платформу разоблачит ZachXBT, и несколько кошельков сделали очень большие ставки на Axiom.

Россия: Регуляция ИИ и крипты

🐌 В РФ могут обязать ^[39] разработчиков ИИ-моделей раскрывать массив данных, использованных для обучения ^[40] моделей. Пока непонятно, понадобилось ли это для вычисления крамолы в головах у нейросетей или для споров по авторским правам.

🐌 А еще президент России утвердил ^[41] состав комиссии по развитию ИИ. В ней есть министр обороны, глава ФСБ Бортников, губернатор Подмосковья… а, ну и зачем-то одного человека из Яндекса позвали.

🐌 ЦБ и Минфин разработали ^[42] законопроект о регулировании рынка криптовалют. Естественно, речь идет не о простой легализации, а об усилении контроля со стороны государства: легальные биржи должны будут передавать данные органам, а для «неквалов» вводятся строгие лимиты на объем покупок. Меры вроде как должны заработать уже этим летом, а торги на Мосбирже начнутся ^[43] уже к концу года.

🐌 В Нижегородской области хотят ^[44] ввести понятие растений-иноагентов. Туда будут входить представители флоры, которые мешают сельскому хозяйству и здоровью людей. Первый кандидат на попадание в список – борщевик Сосновского.

🐌 «Додо Пицца» попала ^[45] в скандал – управляющая одного из ресторанов сети уволила курьера за то, что он накрыл фирменным пледом бездомную собаку, живущую возле кафе. После шумихи в соцсетях основатель компании Фёдор Овчинников извинился ^[46] за поведение ^[47] управляющей и пообещал сделать «Додо Пиццу» pet-friendly сетью, а ту самую собачку устроить в приют.

🐌 1 марта вступил в силу закон ^[48], который запрещает латиницу на вывесках и в рекламе – вот тут ^[49] забавные (или грустные) подробности того, как бизнесу пришлось под это подстраиваться. Но если у вас есть зарегистрированная торговая марка на латинице – то тогда можно! В общем, пользуясь случаем, хочу сказать: подписывайтесь на мой Телеграм-канал RationalAnswer ^[50].

🐌 РБК вслед за Базой говорят ^[51], что Telegram заблокируют в первых числах апреля. Причем есть ощущение, что мессенджер могут признать «экстремистской организацией» по аналогии с Meta. Провластные «Российская газета» и «Комсомольская правда» одновременно выпустили ^[52] статьи, где обвиняют Телеграм чуть ли не во всех терактах и других бедах страны, а про Павла Дурова говорят, что на него заведено уголовное дело за «содействие терроризму».

Европа: Латвия как обычно

🐌 Корееведа Андрея Ланькова задержали ^[53] в Латвии, куда он приехал выступить с лекцией. В итоге его выдворили ^[54] из страны и объявили персоной нон-грата, не указав толком причин.

🐌 Также появилась информация ^[55] о том, что гражданину Латвии предъявили уголовные обвинения из-за работы на российскую компанию (несанкционную, судя по всему) и получение зарплаты на счет в санкционном банке (Альфа). В общем, непросто нынче в Латвии.

🐌 Великобритания объявила ^[56] о новых санкциях против России – под ограничения попала «Транснефть», ряд банков и всякие другие компании.

RIP недели

🐌 В 77 лет ушел из жизни ^[57] писатель-фантаст Дэн Симмонс, автор романов «Гиперион» и «Террор». Я ни одной книги у него не читал (извините). Фанаты, напишите в комментах – если у него прочесть одно произведение для ознакомления, то что лучше взять? (Только не пишите плз «непременно надо ознакомиться с серией на 18 томов»!)

Хорошая новость недели

🐌 Культовое аниме Миядзаки «Служба доставки Кики» выходит ^[58] в ре-релиз в IMAX. Недавно с женой пересматривали – подумал, насколько же это актуальный мультфильм про эмиграцию, выстраивание жизни заново, адаптацию на новом месте, поиск себя, вот это всё.

Бонусные посты недели из моих ТГ-каналов

🐌 «Облигации» на рынках предсказаний ^[35]: как я ставлю на президента с доходностью 18% годовых в долларах.

🐌 Парадоксальная ненависть к байбэкам ^[59]: что я не понимаю в мышлении ^[60] хейтеров обратных выкупов акций.

🐌 Актуальная шутка ^[61] про инфляцию в долларе и Иран (замечу: я ее запостил 26 февраля, почти что «торговый сигнал» вышел).

🐌 Про хеджирующие речевые обороты ^[62] и этикет культурного общения.