Microsoft позволит администраторам читать запросы и ответы ИИ для сотрудников

Microsoft внедрила ^[1] несколько обновлений в Purview — инструмент обеспечения безопасности и управления данными, используемый в корпоративных средах. Компания представила также функцию для команд безопасности.

Новая функция появится в разделе управления рисками для инсайдеров Purview, которая позволит авторизованному персоналу просматривать потенциально опасные сообщения, отправленные в службы ИИ. Сообщения с индикаторами риска будут отображаться в текстовом виде, и команды также смогут просматривать ответ, отправленный ИИ. Этот контент будет отображаться даже при псевдонимизации пользователя, что, по сути, гарантирует сохранение его конфиденциальности, но не в ущерб безопасности предприятия.

Если сотрудник службы безопасности посчитает, что взаимодействие с ИИ нарушило политику компании, привело к утечке данных или вызвало другие проблемы с соблюдением нормативных требований, он сможет деанонимизировать пользователя при наличии соответствующего разрешения.

Управление доступом на основе ролей и журналы аудита продолжат работать, чтобы гарантировать, что эта возможность не используется не по назначению. 

Предварительная версия функции появится в конце мая, а общедоступная запланирована на следующий месяц. 

Ранее Microsoft представила ^[2] новый инструмент, позволяющий IT-администраторам и специалистам по кибербезопасности управлять состоянием своей инфраструктуры искусственного интеллекта ^[3]. Система объединяет сигналы из Microsoft Defender, Entra и Purview в режиме реального времени.