Сооснователь Anthropic: ИИ может стереть человечество. Но сначала — поможет получить Нобелевку

20 мая сооснователь Anthropic Джек Кларк прочитал лекцию ^[1] в Институте этики ИИ Оксфордского университета. Кларк возглавляет в Anthropic подразделение Anthropic Institute, которое изучает социальные эффекты от ИИ, а его рассылку про развитие ИИ читают больше 120 тысяч человек — в основном профессионалы отрасли. Главный тезис лекции — у искусственного интеллекта ^[2] остается “не нулевой шанс убить всех на планете”, и важно “четко заявить, что этот риск никуда не делся”.

В той же лекции Кларк дал пять конкретных прогнозов со сроками:

• 12 месяцев — ИИ поможет совершить открытие, которое будет удостоено Нобелевской премии (не сам, а в соавторстве с людьми).

• 18 месяцев — появятся первые компании, управляемые исключительно ИИ, с выручкой в миллионы долларов.

• 2 года — человекоподобные роботы начнут помогать сантехникам и электрикам в реальной работе на объектах.

• К концу 2028 — модели смогут самостоятельно обучать своих преемников, то есть улучшать ИИ без участия человека.

• На всем горизонте — тот самый “не нулевой шанс” вымирания, который Кларк отдельно отметил как несокращающийся.

Аргументирует Кларк через аналогию с пандемиями. “Если мы будем стоять в стороне и позволим ИИ размножаться, нас в конце концов заставят реагировать ^[3] постфактум”, — сказал он, имея в виду провал готовности к COVID. При этом сооснователь Anthropic сам признал: часть его прогнозов звучит “как безумие” — особенно тезис о том, что машинная экономика может в какой-то момент отделиться от человеческой и начать жить по своим правилам.

Самое неожиданное место лекции пришлось на момент, когда Кларк сам сослался на популярную претензию к Anthropic. Компанию — в том числе со стороны Белого дома Трампа и сторонников ускоренного развития ИИ — обвиняют в том, что она нагнетает страх ^[4] ради собственной выгоды: пугать общественность, чтобы привлекать инвестиции и добиваться, чтобы конкурентам ужесточили правила выпуска моделей. Кларк не стал отрицать. Он публично согласился, что в обвинении есть зерно истины — редкий случай, когда руководитель ведущей ИИ-компании признает, что часть его публичной риторики может быть частью бизнес-стратегии.

В этом свете забавно, что лекция прозвучала на пике корпоративного триумфа Anthropic. Компания сообщила инвесторам, что во втором квартале 2026 года ожидает первой в своей истории операционной прибыли — $559 млн при выручке $10,9 млрд (вдвое больше, чем в первом квартале). Оценка Anthropic превысила $900 млрд — впервые компания обогнала OpenAI. И на той же неделе к Anthropic присоединился Андрей Карпати, сооснователь OpenAI и один из самых известных ИИ-исследователей. То есть с трибуны Оксфорда говорил не маргинал, а голос самой дорогой ИИ-компании мира.

P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть ^[5]“, где я рассказываю про ИИ с творческой стороны.