Студентка MIT бросила учёбу, заявив, что AGI уничтожит человечество раньше, чем она получит диплом

Кажется, сегодня мы все испытываем некоторое беспокойство по поводу искусственного интеллекта ^[1].

И в то время, когда многие студенты бросают университет, чтобы примкнуть к AI‑стартапам, бывшая студентка Массачусетского технологического института утверждает, что ушла по куда более мрачной причине: она боится, что искусственный общий интеллект — или сверхразумный ИИ — попросту сотрёт человечество с лица Земли.

«Я опасалась, что до выпуска просто не доживу из‑за AGI, — призналась изданию Элис Блэр, поступившая в МТИ в 2023 году. — Думаю, в большинстве сценариев по тому пути, каким мы идём к созданию AGI, всё заканчивается вымиранием человека».

Сейчас Блэр работает техническим писателем в некоммерческом Центре безопасности ИИ и возвращаться в MIT не собирается. Она шла туда с надеждой встретить людей, разделяющих интерес ^[2] к безопасному развитию ИИ, но, судя по всему, разочаровалась. «Чую, моё будущее — за пределами университетских стен», — сообщила она изданию.

Никола Юркович, выпускник Гарварда и бывший активист университетского клуба безопасности ИИ, отчасти её понимает: «Если твоя профессия будет автоматизирована к концу десятилетия, то каждый год, проведённый в университете, — это год, вычеркнутый из и без того короткой карьеры. Лично я считаю, что AGI появится уже года через четыре, а полная автоматизация экономики — максимум через пять‑шесть».

Создание AGI — системы, равной или превосходящей человеческий разум, — для индустрии ИИ во многом главная цель. Генеральный директор OpenAI Сэм Альтман назвал недавний релиз своего неоднозначно принятого продукта GPT 5 крупным шагом к AGI и даже осмелился окрестить его «по‑настоящему разумным».

Многие специалисты, впрочем, уверены: до появления столь мощной системы ещё очень далеко, и указывают на признаки того, что прогресс начал упираться в потолок.

«Вероятность того, что AGI появится в ближайшие пять лет, крайне мала, — заявил изданию исследователь ИИ и известный критик отрасли Гэри Маркус. — Все эти разговоры — просто рекламная дымовая завеса, ведь масса фундаментальных проблем (например, „галлюцинации“ и ошибки ^[3] в рассуждениях) до сих пор полностью не разрешены».

Представления о полном вымирании человечества он считает чрезмерно драматичными — на самом деле, полагает Маркус, индустрии ИИ даже выгодно нагнетать апокалиптические настроения. Альтман и прочие технологические лидеры сами озвучивают эти риски, создавая впечатление ^[4], будто технологии уже близки к божественной мощи. Это помогает им контролировать дискуссию о том, как всё это следует регулировать.

Воспользоваться ChatGPT 5 можно в BotHub. По ссылке дают ^[5] 100 000 бесплатных капсов, чтобы сразу приступить к работе.