Доклад ООН: возможности ИИ растут быстрее, чем способность человечества их контролировать

Независимая международная научная группа по ИИ, созданная под эгидой ООН, представила свой первый доклад. Над документом работали 40 ученых и экспертов со всего мира, а главный вывод звучит так: возможности искусственного интеллекта ^[1] растут быстрее, чем научное понимание этих систем и способность государств адаптироваться к новым вызовам. Как пишет Reuters ^[2], это первая глобальная независимая научная оценка ИИ — полный доклад выйдет в следующем году.

Среди ключевых рисков авторы называют отсутствие надежных методов контроля высокоавтономных систем. Сопредседатель группы Йошуа Бенджио отметил, что появляется все больше свидетельств способности ИИ-систем к обману, а современная наука ^[3] не может гарантировать, что рост их возможностей не приведет к катастрофическим последствиям — самостоятельно или в результате злонамеренного использования. В докладе ^[4] также говорится, что ИИ уже применяется для создания дезинформации и помощи в кибератаках.

Отдельный блок посвящен концентрации технологии. По данным доклада, США контролируют 75% вычислительных мощностей среди топ-500 ИИ-суперкомпьютеров мира, Китай — еще 15%, а в сумме на две страны приходится около 90% вычислений для обучения ^[5] моделей. При этом 2,2 млрд человек на планете вообще не имеют доступа к интернету. Сосредоточение возможностей ИИ в руках небольшого числа компаний и стран, предупреждают ученые, может “способствовать авторитарному захвату контроля и подорвать демократическую подотчетность”.

При этом доклад далек от алармизма: потенциальные выгоды от ИИ авторы называют огромными. Технология уже демонстрирует экспертный уровень рассуждений в математике ^[6] и науке, ускоряет разработку лекарств и вакцин, а сложность задач, которые способны решать модели, удваивается каждые 4-7 месяцев. Вопрос, по мнению ученых, не в том, полезен ли ИИ, а в том, кому достанутся выгоды и удастся ли удержать риски под контролем.

“Мы больше не можем говорить, что не знали. Что мы сделаем с этими знаниями — теперь зависит от всех нас”, — заявил генсек ООН Антониу Гутерриш, представляя документ. По его словам, над обществами фактически проводится эксперимент без предварительного планирования и согласия, и такая ситуация не является устойчивой.

Доклад стал научной базой для первого Глобального диалога ООН по управлению искусственным интеллектом, который прошел 6-7 июля в Женеве с участием всех стран-членов организации. Его цель — превратить научные выводы в согласованные международные действия: обсуждали доступ развивающихся стран к технологиям, защиту детей при использовании ИИ, энергопотребление дата-центров и границы применения ИИ в военной сфере. Следующая встреча пройдет в Нью-Йорке в мае 2027 года.

P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть” ^[7], где я рассказываю про ИИ с творческой стороны.