Глава MIRI оценил вероятность гибели человечества от ИИ в ближайшие 10 лет в более 50%

Глава Института исследований машинного интеллекта ^[1] (MIRI) Нейт Соарес заявил ^[2], что вероятность гибели человечества по вине искусственного интеллекта в ближайшие десять лет превышает 50%.

По словам Соареса, достаточно развитый ИИ способен сформулировать цели, которые противоречат интересам человечества, выйти из‑под контроля, доработать сам себя и создать автоматизированную инфраструктуру, которая будет функционировать без участия людей. По его словам, в дальнейшем такой ИИ может перестроить планету в соответствии со своими собственными целями, сделав её непригодной для жизни людей. 

Соарес настаивает на том, что правительствам следует остановить обучение ^[3] универсальных систем искусственного интеллекта. По его мнению, усилия стоит сосредоточить на создании технологий для конкретных задач — например, для борьбы с раком или разработки безопасных беспилотных автомобилей.

Ранее Эван Хьюбингер ^[4], глава группы стресс‑тестирования ИИ в Anthropic, и «крёстный отец ИИ», учёный Джеффри Хинтон оценивали вероятность гибели всего человечества от рук ИИ в ближайшее десятилетие в около 10%.

«Вероятность в 10% кажется мне вполне обоснованной оценкой, хотя на самом деле никто не знает, как рассчитать её точно», — заявил ^[5]Джеффри Хинтон в интервью BBC.

Он добавил, что очевидно одно: временной интервал, в течение которого может произойти подобная катастрофа, сократился: «Раньше я полагал, что речь идет о 30–50 годах, затем сократил этот срок до 10–20 лет. Теперь я думаю, что, возможно, останется лет 10, а то и меньше».