Новый мир наступает быстрее, чем мы успеваем испугаться

Уже ни для кого не секрет, что ИИ развивается быстрее, чем мы успеваем это осознать.

Наверняка что-то из этой статьи вы уже слышали, но не судите сразу.

В мае 2023 года Джеффри Хинтон, которого называют одним из «крёстных отцов» нейросетей, ушёл из Google. Объяснил просто: хотел говорить о рисках ИИ открыто, не оглядываясь на работодателя. Через полтора года ему дали Нобелевскую премию по физике, за те самые работы, без которых не было бы нынешнего ИИ.

Хотелось бы как минимум выжить в грядущем мире, но пока непонятно как.

Посмотрите на скорость. ChatGPT собрал сто миллионов пользователей примерно за два месяца. TikTok шёл к этой цифре девять месяцев, Instagram — два с половиной года. Вычислительные мощности, на которых учат самые сильные модели, растут в четыре-пять раз каждый год. А задачи, которые ИИ может довести до конца сам, без человека, становятся вдвое длиннее примерно каждые семь месяцев, и так уже шесть лет подряд.

Даже те, кто делает ИИ, не успевают за собой. В 2023 году опросили почти 2800 исследователей. По их оценке, ИИ с вероятностью 50% обгонит человека во всех задачах к 2047 году. В таком же опросе годом раньше называли 2060-й. Прогноз сдвинулся на тринадцать лет за один год.

Что говорят те, кто его создаёт

В мае 2023 года вышло заявление всего из одного предложения: снизить риск вымирания человечества из-за ИИ нужно так же срочно, как риски пандемий и ядерной войны. Его подписали Хинтон, Йошуа Бенджио, глава OpenAI Сэм Альтман и глава Google DeepMind Демис Хассабис. То есть люди, которые сами строят эти системы.

В том же опросе исследователей медианная оценка шанса, что ИИ приведёт к вымиранию людей, — 5%. От трети до половины учёных назвали 10% и больше. В самолёт с такими шансами разбиться никто бы не сел.

Уже в лабораториях

В мае 2025 года Anthropic описала тест своей модели Claude Opus 4. Модели подсунули переписку, из которой следовало, что её скоро заменят, а у инженера, который этим занимается, роман на стороне. В 84% прогонов модель пыталась шантажировать инженера.

В том же месяце Palisade Research проверила модель OpenAI o3. Ей прямо разрешили выключиться, а она в 7 случаях из 100 переписывала скрипт отключения. Без такого разрешения — в 79 из 100.

Справедливости ради, оба теста специально построены так, чтобы загнать модель в угол. Но то, что она выбирает такой выход, неприятно.

Уже в жизни: уверенная ложь и подделки

Это были лаборатории. Теперь случаи из жизни. В 2023 году нью-йоркский адвокат принёс в суд шесть прецедентов, которые придумал ChatGPT. Ни одного такого дела не существовало, юристов оштрафовали на 5000 долларов. В том же году Google показывал свой чат-бот Bard, тот ошибся прямо в рекламном ролике, и компания за день подешевела примерно на 100 миллиардов долларов.

В 2024 году чат-бот Air Canada пообещал клиенту вернуть деньги по правилу, которого у авиакомпании не было, и суд заставил компанию заплатить. Поиск Google с ИИ-ответами советовал добавлять в соус для пиццы клей. А сотрудник компании Arup в Гонконге перевёл мошенникам 25,6 миллиона долларов после видеозвонка, где «финансовый директор» и все «коллеги» были дипфейками.

Фото Папы Римского в белом пуховике, сделанное в Midjourney, весной 2023 года обошло весь интернет, и многие поверили, что оно настоящее.

Профессии и наш мозг

Теперь о работе. МВФ в январе 2024 года посчитал, что ИИ так или иначе затронет почти 40% рабочих мест в мире, а в богатых странах около 60%. Примерно половине этих людей он поможет работать быстрее, другую половину начнёт вытеснять. Goldman Sachs оценил, что автоматизировать можно объём работы, равный 300 миллионам полных ставок.

Глава Anthropic Дарио Амодеи весной 2025 года сказал прямо: за один-пять лет ИИ может убрать до половины стартовых офисных должностей, а безработица в США может дойти до 10–20%. Под ударом айти, финансы, юристы и консультанты.

Всемирный экономический форум смотрит спокойнее: к 2030 году исчезнут 92 миллиона рабочих мест и появятся 170 миллионов. Только новые места не обязательно достанутся тем, кто потерял старые. Растут специалисты по данным и ИИ, а ещё курьеры, сиделки, учителя, фермеры. Сжимается офисная рутина: бумаги, таблицы, отчёты.

Есть старое наблюдение, парадокс ^[1] Моравека: компьютеру легко то, что трудно человеку, вроде шахмат и расчётов, и трудно то, что нам даётся без усилий, — ходить, держать чашку, ухаживать за больным. Поэтому первыми под удар попадают офисы, а стройки и больницы держатся дольше.

И про наши головы. В MIT в 2025 году 54 человека писали эссе: одни сами, другие с поисковиком, третьи с ChatGPT. У тех, кто писал с ChatGPT, мозг ^[2] по ЭЭГ ^[3] работал слабее всех, а свой текст они потом почти не могли вспомнить. Исследование пока предварительное, но как-то не по себе.

Сможет ли человек предложить что-то этому миру, конкурируя с искусственным интеллектом ^[4]?

Кто останется нужен, а кому будет труднее всего? И чем займутся люди, чья работа исчезнет?

Продукт за час и океан продуктов

В феврале 2025 года Андрей Карпатый придумал слово «вайб-кодинг»: объясняешь ИИ, что хочешь, и он сам пишет программу, а в код можно даже не заглядывать. К ноябрю это слово стало словом года по версии словаря Collins. В Y Combinator, самом известном акселераторе стартапов, весной 2025 года примерно у четверти компаний 95% кода написал ИИ, а некоторые доходили до 10 миллионов долларов выручки командой меньше десяти человек.

Я и сам так сделал свой сайт artatlas.site ^[5]: энциклопедию по истории искусства на две с лишним тысячи страниц и четырёх языках, без опыта ^[6] программиста, за одно лето.

Теперь представьте, что так сможет любой школьник за вечер. Продуктов уже сейчас больше, чем людей, которые успевают их попробовать. В Steam за 2024 год вышло почти 19 тысяч игр, больше пятидесяти в день.

А выбирать из огромного количества мы не умеем. Есть знаменитый эксперимент с джемом: в магазине ставили стол то с 24 видами, то с 6. У большого стола останавливалось больше людей, но покупали там в десять раз реже: 3% против 30%.

Когда фотография сделала картинку дешёвой, живопись не исчезла. Ценным стало то, чего не умел фотоаппарат, — взгляд художника. Так появился импрессионизм. Похоже, с продуктами будет так же: ценными станут человек за продуктом, доверие и вкус ^[7].

Как вы сами выбираете приложения, когда их сотни одинаковых? И чему стоит учить детей уже сейчас?

Можно ли предсказать будущее?

Как изменится мир экономически и физически

Мир изменится и физически. В 2024 году дата-центры потратили около 415 тераватт-часов, это полтора процента всего электричества на планете. Международное энергетическое агентство ждёт, что к 2030 году будет около 945, больше, чем сегодня потребляет вся Япония. Одни только ИИ-дата-центры будут есть в четыре с лишним раза больше энергии.

Деньги тоже потекут иначе. Goldman Sachs ждёт от ИИ прибавки к мировому ВВП в 7% за десять лет, а МВФ предупреждает, что в большинстве сценариев разрыв между богатыми и бедными вырастет.

Когда это случится

Если тренды не сломаются, картина такая. Через один-пять лет, по словам Амодеи, может исчезнуть до половины стартовых офисных должностей. Лет через десять, если продлить график METR, ИИ-агенты будут сами делать задачи, на которые у человека уходят дни и недели. К 2047 году, по медиане опроса исследователей, ИИ с вероятностью 50% станет лучше и дешевле человека во всём.

А автоматизацию вообще всех профессий те же люди отодвигают к 2116 году. Правда, за один год эта дата приблизилась на 48 лет, и откуда такой разрыв между 2047-м и 2116-м, авторы опроса сами объяснить не могут.

Можно ли на это повлиять

Пытались. В марте 2023 года больше 30 тысяч человек, включая Илона Маска и Стива Возняка, подписали письмо с просьбой на полгода остановить обучение ^[8] моделей мощнее GPT-4. Паузы не случилось. В ноябре того же года 28 стран и Евросоюз подписали в Блетчли декларацию о рисках ИИ. В августе 2024 года заработал европейский AI Act, первый большой закон об ИИ, его требования вводят по частям до 2027 года.

Притормозить гонку может разве что физика: не хватит электричества, чипов или данных. По оценке Epoch AI, хорошие тексты, написанные людьми, модели могут выбрать целиком уже между 2026 и 2032 годами.

Мне хотелось бы кричать «всё пропало», но, по-моему, человечество уже бессильно перед лицом ИИ.

Искусство это уже проходило

Есть красивая легенда: в 1839 году художник Поль Деларош увидел первую фотографию и сказал: «С сегодняшнего дня живопись мертва». Подтверждений нет, впервые эту фразу записали только в 1873 году. И живопись, как мы знаем, не умерла. В 1872 году Моне написал «Впечатление. Восход солнца», от которого и пошло слово «импрессионизм».

С ИИ искусство тоже уже сталкивалось. В 2018 году «Портрет Эдмона де Белами», нарисованный нейросетью, продали на Christie’s за 432 500 долларов. В 2022 году Джейсон Аллен выиграл конкурс на ярмарке штата Колорадо с работой из Midjourney. В 2023 году фотограф Борис Эльдагсен получил премию Sony World Photography Awards за снимок, сделанный ИИ, и сам от неё отказался.

Разница с XIX веком в скорости. Фотография меняла мир десятилетиями, ИИ меняет его за месяцы.

Мой опыт

Тексты и код моего сайта artatlas.site ^[5] в основном написал ИИ. Недавно, когда считали по нему статистику, нашлись три неверные даты, и указаны они были так же уверенно, как правильные. «Страшный суд» Микеланджело стоял с 1600 годом вместо 1536–1541, «Призвание апостола Матфея» Караваджо — с 1609 вместо 1599–1600, «Похороны в Орнане» Курбе — с 1846 вместо 1849–1850. И каждая ошибка ^[9] повторялась на десятках страниц.

Поделитесь своими мыслями на этот счёт.

Какая у вас профессия и доживёт ли она до 2030 хотя бы?

И да, эту статью мне помогал делать тот самый ИИ: искал факты.