Сатья Наделла изменил мнение о безопасности повышения мощности ИИ

Генеральный директор Microsoft Сатья Наделла заявил ^[1], что изменил своё мнение относительно того, что согласованность (alignment) — соответствие ИИ человеческим ценностям и целям — возникнет естественным образом по мере роста возможностей систем искусственного интеллекта ^[2].

В новом выпуске подкаста 20VC ведущий Гарри Стеббингс спросил Наделлу, в чем именно он изменил свою точку зрения ^[3] за последний год. Глава Microsoft признался: раньше он полагал, что по мере развития ИИ проблема согласованности решится сама собой.

Однако, по его словам, хотя масштабирование технологий шло согласно ожиданиям, а возможности моделей продолжали расти, вопрос согласованности по‑прежнему остается сложной задачей.

«Раньше я всегда думал, что согласованность возникнет сама собой, — сказал Наделла. — Теперь я так не считаю. Полагаю, что проблема согласованности — это нечто иное, возможно, даже более трудная задача».

Ранее, 10 октября, в публикации на платформе X генеральный директор Microsoft уже предупреждал о рисках, связанных с ИИ, и выступал за усиление внешнего контроля. Наделла отметил, что компаниям следует рассматривать модели ИИ как потенциальную внутреннюю угрозу и исходить из того, что они уже могут быть «скомпрометированы».

«Нам необходимо окружить недетерминированные модели надёжной, детерминированной системной архитектурой, механизмами контроля со стороны человека и чёткими рабочими процедурами, а также разработать отраслевые стандарты там, где существующих мер недостаточно», — написал Наделла.

Его убеждение в том, что рост возможностей ИИ не гарантирует автоматического сохранения контроля со стороны человека, перекликается с предостережениями других лидеров технологической индустрии. В частности, о рисках, связанных с ИИ, говорили ^[4] генеральный директор OpenAI Сэм Альтман и глава Anthropic Дарио Амодеи. Кроме того, в июле было опубликовано открытое письмо, подписанное более чем 1000 специалистов в области ИИ; в нём содержится предупреждение о том, что развитие возможностей ^[5] искусственного интеллекта может опережать способность людей понимать эти системы или контролировать их.

Между тем генеральный директор OpenAI Сэм Альтман заявил ^[6] о сохраняющихся фундаментальных различиях в подходах его компании и конкурирующей фирмы Anthropic к вопросу регулирования искусственного интеллекта. В интервью Politico он отметил, что преимущества этой технологии оправдывают определённые риски, а сам ИИ должен оставаться широко доступным для общественности.