В штате Нью‑Йорк запустят первую в стране государственную программу тестирования ИИ‑систем

В американском штате Нью‑Йорк запустят первую в США государственную программу независимого тестирования систем искусственного интеллекта ^[1] и подготовки нового поколения экспертов безопасности в области нейросетей. Об этом сообщила ^[2] губернатор штата Кэти Хокул.

Решение о запуске инициативы приняли на фоне усиления общественной обеспокоенности после того, что ИИ‑модели продемонстрировали ^[3] способности взламывать информационные системы, а ведущие исследователи крупнейших ИИ‑лабораторий выступили с предупреждениями.

Проект штата стал реакцией ^[4] на решение президента США Дональда Трампа не вводить федеральные меры защиты в сфере ИИ. Ранее глава США назвал «мистификацией» опасения по поводу безопасности ИИ. Трамп выбрал ^[5] добровольную систему мер безопасности, содержание которой раскрыли только технологическим компаниям.

«В то время как федеральное правительство бездействует, Нью‑Йорк лидирует в вопросах безопасности ИИ и привлекает крупные технологические компании к ответственности. Ставки слишком высоки, чтобы просто верить ИИ‑компаниям на слово», — заявила Хокул.

Центр тестирования ИИ финансируют за счёт пожертвования в размере $30 млн от соучредителя Bloomberg Томаса Секунды и инвестиций на сумму $25 млн от SUNY и штата Нью‑Йорк. Запуск инициативы планируют до вступления в силу 1 января 2027 года основного закона Нью‑Йорка о безопасности ИИ — RAISE Act ^[6]. Для этого потребуется предоставление подробных рамок безопасности от компаний, работающих в штате Нью‑Йорк и занимающихся ИИ. Офис губернатора ожидает, что исследователи нового центра тщательно изучат эти рамки.

Секунда занимает пост председателя совета директоров Empire AI — государственно‑частного консорциума с бюджетом $500 млн. Благодаря Empire AI и исследователям со всего Нью‑Йорка новый центр сможет независимо тестировать системы и предоставлять чиновникам доказательства, которые они могут использовать, заявил Секунда. Empire AI обеспечит этот центр вычислительными мощностями.

По словам Хокул, в программе будут участвовать свыше 80 ведущих учёных и исследователей в области ИИ‑систем со всего штата. За инициативу отвечает Центр ответственности и исследований в области ИИ штата Нью‑Йорк при Бингемтонском университете. Программу возглавляют исполнительный вице‑президент по исследованиям Колумбийского университета Жаннет Винг и проректор Корнеллского технологического института Грег Мориссетт.

«Нам нужны новые методы, которые можно применять к этой новой системе, где рои автономных агентов действуют независимо и без управления. Как можно сначала обнаружить, что они собираются причинить вред, и как предотвратить это? Прелесть предлагаемого подхода заключается в том, что штат выделяет ресурсы для того, чтобы действительно продвинуть это направление» — сказала Винг.

Занявшая большинство мест в обеих палатах Конгресса США Демократическая партия закладывает основу для наступления на рынок ИИ. Демократы планируют вызывать в суд руководителей крупных ИИ‑компаний и принимать законы для обеспечения безопасности и контроля над экспортом.

Штаты Нью‑Йорк и Калифорния зашли дальше остальных в регулировании ИИ‑компаний.