Гендиректор Microsoft заявил о необходимости контроля человека над суперинтеллектом

Генеральный директор Microsoft Сатья Наделла высказался ^[1] по поводу идеи «замедления разработки ИИ». По его мнению, любые попытки создания суперинтеллекта должны быть направлены на благо человечества и оставаться под контролем людей, иначе в них «нет смысла». 

В то время как все обсуждают замедление темпов создания передовых моделей, Наделла заявил о необходимости ускорить распространение ИИ и внедрение его преимуществ, чтобы они стали доступны разным странам, сообществам и компаниям. Для этого, по его словам, необходима среда, в которой могут успешно развиваться как закрытые модели, так и ИИ с открытым исходным кодом.

Развивая идеи, высказанные ранее другими экспертами, Наделла сообщил, что Microsoft планирует представить «Кодекс поведения», регулирующий работу собственных моделей ИИ компании. После публикации этот документ будет вынесен на общественное обсуждение, чтобы не только техгигант определял вектор развития своих моделей. Наделла подчеркнул, что выступает за широкий доступ и возможность выбора на всех уровнях стека технологий ИИ, а также за сохранение за корпоративными клиентами контроля над процессами обучения ^[2] и самими моделями. По его словам, компаниям, начинающим использовать искусственный интеллект ^[3], «крайне важно» сохранять полный контроль над своими «уникальными и неявными знаниями». Топ‑менеджер добавил, что каждая организация должна иметь возможность выстраивать собственный непрерывный цикл обучения независимо от единственного поставщика моделей, и внедрять свои знания в модели и весовые коэффициенты, находящиеся под собственным контролем.

В целом, Наделла отметил, что Microsoft приветствует исследования, пристальное внимание ^[4] и взвешенный подход к обеспечению согласованности ИИ с человеческими ценностями как ключевую цель разработки. Он также упомянул, что компании импонирует идея использования встроенных механизмов оценки.

Ещё одним важным моментом для Наделлы и Microsoft является то, что процесс согласования ИИ не может быть прерогативой лишь нескольких организаций. Он требует широкого участия представителей различных экосистем, стран и сфер деятельности, включая академическое сообщество.

Ранее Наделла уже высказывался ^[5] аналогичным образом. Он говорил, что каждая компания должна создать свою собственную модель ИИ. По его словам, только тогда будут появляться модели, адаптированные к конкретному бизнесу. «Моя позиция такова: в мире должно быть столько же моделей, сколько компаний, — заявил Наделла в интервью для Applied Compute. — Я не хочу зависеть от какой‑то одной модели, я хочу иметь возможность использовать свой собственный контекст, свои собственные данные (фактически, свои собственные трассировки) чтобы создавать гораздо более универсальные, экономически эффективные модели или модели с тонкой настройкой».