Независимая международная научная группа по ИИ, созданная под эгидой ООН, представила свой первый доклад. Над документом работали 40 ученых и экспертов со всего мира, а главный вывод звучит так: возможности искусственного интеллекта растут быстрее, чем научное понимание этих систем и способность государств адаптироваться к новым вызовам. Как пишет Reuters, это первая глобальная независимая научная оценка ИИ — полный доклад выйдет в следующем году.
Среди ключевых рисков авторы называют отсутствие надежных методов контроля высокоавтономных систем. Сопредседатель группы Йошуа Бенджио отметил, что появляется все больше свидетельств способности ИИ-систем к обману, а современная наука не может гарантировать, что рост их возможностей не приведет к катастрофическим последствиям — самостоятельно или в результате злонамеренного использования. В докладе также говорится, что ИИ уже применяется для создания дезинформации и помощи в кибератаках.
Отдельный блок посвящен концентрации технологии. По данным доклада, США контролируют 75% вычислительных мощностей среди топ-500 ИИ-суперкомпьютеров мира, Китай — еще 15%, а в сумме на две страны приходится около 90% вычислений для обучения моделей. При этом 2,2 млрд человек на планете вообще не имеют доступа к интернету. Сосредоточение возможностей ИИ в руках небольшого числа компаний и стран, предупреждают ученые, может “способствовать авторитарному захвату контроля и подорвать демократическую подотчетность”.
При этом доклад далек от алармизма: потенциальные выгоды от ИИ авторы называют огромными. Технология уже демонстрирует экспертный уровень рассуждений в математике и науке, ускоряет разработку лекарств и вакцин, а сложность задач, которые способны решать модели, удваивается каждые 4-7 месяцев. Вопрос, по мнению ученых, не в том, полезен ли ИИ, а в том, кому достанутся выгоды и удастся ли удержать риски под контролем.
“Мы больше не можем говорить, что не знали. Что мы сделаем с этими знаниями — теперь зависит от всех нас”, — заявил генсек ООН Антониу Гутерриш, представляя документ. По его словам, над обществами фактически проводится эксперимент без предварительного планирования и согласия, и такая ситуация не является устойчивой.
Доклад стал научной базой для первого Глобального диалога ООН по управлению искусственным интеллектом, который прошел 6-7 июля в Женеве с участием всех стран-членов организации. Его цель — превратить научные выводы в согласованные международные действия: обсуждали доступ развивающихся стран к технологиям, защиту детей при использовании ИИ, энергопотребление дата-центров и границы применения ИИ в военной сфере. Следующая встреча пройдет в Нью-Йорке в мае 2027 года.
P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть”, где я рассказываю про ИИ с творческой стороны.
Автор: runaway_llm
