Кажется, сегодня мы все испытываем некоторое беспокойство по поводу искусственного интеллекта.
И в то время, когда многие студенты бросают университет, чтобы примкнуть к AI‑стартапам, бывшая студентка Массачусетского технологического института утверждает, что ушла по куда более мрачной причине: она боится, что искусственный общий интеллект — или сверхразумный ИИ — попросту сотрёт человечество с лица Земли.
«Я опасалась, что до выпуска просто не доживу из‑за AGI, — призналась изданию Элис Блэр, поступившая в МТИ в 2023 году. — Думаю, в большинстве сценариев по тому пути, каким мы идём к созданию AGI, всё заканчивается вымиранием человека».
Сейчас Блэр работает техническим писателем в некоммерческом Центре безопасности ИИ и возвращаться в MIT не собирается. Она шла туда с надеждой встретить людей, разделяющих интерес к безопасному развитию ИИ, но, судя по всему, разочаровалась. «Чую, моё будущее — за пределами университетских стен», — сообщила она изданию.
Никола Юркович, выпускник Гарварда и бывший активист университетского клуба безопасности ИИ, отчасти её понимает: «Если твоя профессия будет автоматизирована к концу десятилетия, то каждый год, проведённый в университете, — это год, вычеркнутый из и без того короткой карьеры. Лично я считаю, что AGI появится уже года через четыре, а полная автоматизация экономики — максимум через пять‑шесть».
Создание AGI — системы, равной или превосходящей человеческий разум, — для индустрии ИИ во многом главная цель. Генеральный директор OpenAI Сэм Альтман назвал недавний релиз своего неоднозначно принятого продукта GPT 5 крупным шагом к AGI и даже осмелился окрестить его «по‑настоящему разумным».
Многие специалисты, впрочем, уверены: до появления столь мощной системы ещё очень далеко, и указывают на признаки того, что прогресс начал упираться в потолок.
«Вероятность того, что AGI появится в ближайшие пять лет, крайне мала, — заявил изданию исследователь ИИ и известный критик отрасли Гэри Маркус. — Все эти разговоры — просто рекламная дымовая завеса, ведь масса фундаментальных проблем (например, „галлюцинации“ и ошибки в рассуждениях) до сих пор полностью не разрешены».
Представления о полном вымирании человечества он считает чрезмерно драматичными — на самом деле, полагает Маркус, индустрии ИИ даже выгодно нагнетать апокалиптические настроения. Альтман и прочие технологические лидеры сами озвучивают эти риски, создавая впечатление, будто технологии уже близки к божественной мощи. Это помогает им контролировать дискуссию о том, как всё это следует регулировать.
Воспользоваться ChatGPT 5 можно в BotHub. По ссылке дают 100 000 бесплатных капсов, чтобы сразу приступить к работе.
Автор: dmitrifriend
