В Нью-Йорке принят законопроект о предотвращении катастроф, вызванных ИИ

В четверг законодатели штата Нью-Йорк приняли законопроект ^[1], который должен предотвратить использование передовых моделей искусственного интеллекта ^[2] от OpenAI, Google и Anthropic в ситуациях, угрожающих жизни и здоровью людей, а также приводящих к значительным экономическим потерям. Законопроект направлен на то, чтобы избежать катастроф, в которых пострадают более 100 человек или будет нанесен ущерб на сумму свыше 1 миллиарда долларов.

Принятие законопроекта RAISE — это возможная победа движения за безопасность ИИ, которое утратило свои позиции в последние годы ^[3], поскольку Кремниевая долина и администрация Трампа сделали приоритетом скорость и инновации. Сторонники безопасности, в том числе лауреат Нобелевской премии Джеффри Хинтон и пионер в области исследований ИИ Йошуа Бенжио, выступили в поддержку законопроекта RAISE. Если он станет законом, то установит первый в Америке набор обязательных стандартов прозрачности для передовых лабораторий ИИ.

Законопроект RAISE содержит некоторые из тех же положений и целей, что и спорный законопроект SB 1047 о безопасности ИИ в Калифорнии ^[4], который в конечном итоге был ветирован ^[5]. Однако соавтор законопроекта, сенатор от штата Нью-Йорк Эндрю Гунардес, в интервью TechCrunch сказал, что он намеренно разработал законопроект RAISE таким образом, чтобы он не препятствовал инновациям среди стартапов или академических исследователей — распространённая критика SB 1047.

«Время для принятия мер предосторожности стремительно сокращается, учитывая, как быстро развивается эта технология, — сказал сенатор Гунардес. — Люди, которые лучше всех разбираются в ИИ, говорят, что эти риски невероятно вероятны. […] Это тревожно».

Законопроект теперь направляется на рассмотрение губернатору Нью-Йорка Кэти Хокул, которая может либо подписать его, либо отправить на доработку, либо наложить на него вето.

Если законопроект о безопасности ИИ в Нью-Йорке будет принят, крупнейшие в мире лаборатории по разработке ИИ должны будут публиковать подробные отчёты о безопасности своих передовых моделей ИИ. Законопроект также требует, чтобы лаборатории по разработке ИИ сообщали о случаях, связанных с безопасностью, например, о поведении ^[6] модели ИИ или о злоумышленниках, укравших модель ИИ, если таковые произойдут. Если технологические компании не будут соответствовать этим стандартам, будущий закон RAISE уполномочивает генерального прокурора Нью-Йорка налагать гражданские штрафы в размере до 30 миллионов долларов.

Законопроект направлен на строгое регулирование деятельности крупнейших мировых компаний, независимо от того, базируются ли они в Калифорнии (например, OpenAI и Google) или в Китае (например, DeepSeek и Alibaba). Требования к прозрачности, предусмотренные законопроектом, распространяются на компании, чьи модели ИИ были обучены с использованием вычислительных ресурсов стоимостью более 100 миллионов долларов (по-видимому, больше, чем у любой доступной сегодня модели ИИ) и предоставляются жителям Нью-Йорка.

По словам Натана Кэлвина, вице-президента по государственным вопросам и главного юрисконсульта Encode, который работал над этим законопроектом и SB 1047, RAISE Act в некоторой степени похож на SB 1047, но был разработан с учётом критики предыдущих законопроектов о безопасности ИИ. Примечательно, что RAISE Act не требует от разработчиков моделей ИИ включать в свои модели «аварийный выключатель» и не возлагает на компании, которые обучают пограничные модели ИИ, ответственность за критический вред.

Тем не менее Кремниевая долина значительно смягчила позицию по законопроекту о безопасности ИИ в Нью-Йорке, сообщил TechCrunch член Ассамблеи штата Нью-Йорк и соавтор законопроекта RAISE Алекс Борес. Борес назвал сопротивление отрасли неудивительным, но заявил, что законопроект RAISE никоим образом не ограничит инновации технологических компаний.

OpenAI, Google и Meta* не ответили на запрос TechCrunch о комментарии.

Распространённая критика в адрес законопроекта заключается в том, что разработчики моделей ИИ просто не будут предлагать свои самые продвинутые модели в штате Нью-Йорк. Аналогичная критика звучала в адрес SB 1047, и в значительной степени это произошло в Европе из-за жёстких правил в отношении технологий на континенте.

Член Ассамблеи Борес сказал TechCrunch, что нормативное бремя, связанное с законопроектом RAISE, относительно невелико и, следовательно, не должно заставлять технологические компании прекращать работу своих продуктов в Нью-Йорке. Учитывая тот факт, что Нью-Йорк занимает третье место по ВВП в США, уход из штата — это не то, к чему большинство компаний отнесутся легкомысленно.

«Я не хочу недооценивать политическую мелочность, которая может проявиться, но я абсолютно уверен, что у компаний, занимающихся искусственным интеллектом, нет экономических причин не предоставлять свои модели в Нью-Йорке», — сказал член Ассамблеи Борес.

Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News ^[7].

*Meta и её продукты (Instagram, Facebook) запрещены на территории Российской Федерации

Источник ^[8]