Microsoft: работа ИИ-функции Copilot в Windows сопряжена с рисками кражи данных

Инструмент Copilot Actions в Windows 11 уже доступен в сборках Insider, но требует для настройки прав администратора. При этом Microsoft признаёт ^[1], что работа функции может вызывать «новые риски безопасности». 

Компания предупреждает о возможности внедрения перекрёстных запросов (XPIA), когда вредоносный контент в документах или элементах пользовательского интерфейса может переопределять инструкции ИИ. Это, как признают в Microsoft, может привести к краже данных или установке вредоносного ПО.

Вот как выглядит предупреждение Microsoft: «Мы рекомендуем включать эту функцию только в том случае, если вы понимаете последствия для безопасности». 

При попытке включить Copilot Actions на экране появляется окно с сообщением такого содержания: «Эта функция всё ещё тестируется и может повлиять на производительность или безопасность вашего устройства».

Уровень доступа, требуемый Copilot Actions, действительно вызывает беспокойство. Функция может применять операции чтения и записи к папкам «Документы», «Загрузки», «Рабочий стол», «Изображения», «Видео» и «Музыка». При этом все действия регистрируются, а пользователи должны одобрять запросы на доступ к данным. Сама функция работает в изолированных рабочих пространствах, а система отслеживает её активность с помощью журналов аудита.

Тем не менее, даже в Microsoft признают, что, помимо рисков безопасности, ИИ может «галлюцинировать и выдавать неожиданные результаты». Компания добавила в свой документ поддержки предупреждение: «По мере внедрения новых возможностей модели ИИ всё ещё сталкиваются с функциональными ограничениями в плане своего поведения ^[2] и иногда могут галлюцинировать и выдавать неожиданные результаты». Однако Microsoft не описала, какие действия следует предпринять, чтобы предотвратить взлом своих устройств.

Ранее Microsoft объявила ^[3] о запуске в Windows функций, которые позволят внедрить возможности искусственного интеллекта ^[4] в обычные ПК с Windows 11 без необходимости покупать ПК Copilot+. ИИ-помощник Copilot сможет сканировать экран, понимать голосовые команды и выполнять за пользователя действия на компьютере, а активировать его можно будет с помощью кодовой фразы «Hey, Copilot».