Безопасность ИИ входит в ТОП-5 приоритетов четверти российских корпораций

К2 Кибербезопасность и «Лаборатория Касперского» провели исследование ^[1] подходов российского бизнеса к безопасному использованию технологий искусственного интеллекта ^[2]. Респондентами выступили специалисты из 200+ крупных российских компаний из следующих отраслей экономики: ИТ, финсектор, торговля, телекоммуникации, строительство, фармацевтика. 

ТОП-5 направлений применения ИИ. 41% компаний используют искусственный интеллект для генерации контента, 37% — для аналитики данных, 37% — разработки ПО, 27% — в HR-процессах, 22% — в клиентских сервисах.

Критичность ИИ для бизнеса. 43% респондентов заявили, что при недоступности ИИ-сервисов бизнес продолжит функционировать, но с потерями (32% — с умеренными, 11% — с критическими). ИИ уже не просто инструмент повышения удобства и ускорения рутинных операций. В ряде компаний он влияет на процессы, сбои в которых могут привести к существенным убыткам.

«Искусственный интеллект уже влияет на непрерывность бизнеса и должен рассматриваться как компонент операционной устойчивости. Поэтому в ближайшие годы основным вызовом будет внедрение зрелых практик по управлению ИИ-рисками. За последнее время участились инциденты с негативными последствиями от использования ИИ: генерация токсичного контента от имени компании, загрузка сотрудниками конфиденциальной информации и внутренних протоколов в публичные модели, внедрение вредоносных запросов и т.д. Согласно опросу, уже 25% компаний считают, что безопасность ИИ входит в ТОП-5 приоритетов бизнеса. При этом пока только 22% выделили на это отдельный бюджет. Эти организации показывают зрелый подход, встраивая новый класс рисков в систему своего стратегического планирования», — прокомментировал Александр Лысенко, ведущий эксперт по безопасности разработки и ИИ в К2 Кибербезопасность.

Какие сервисы используют организации. Больше половины (59%) компаний не ограничиваются одним типом ИИ-сервисов, а используют сразу несколько: российские, зарубежные, собственные или заказную разработку. Основные причины: ИИ-сервисы справляются с разными задачами с разной эффективностью, под каждый процесс используется отдельный сервис, индивидуальные предпочтения пользователей. 

75% компаний работают с отечественными публичными сервисами, 60% — с зарубежными. Доминирование российских продуктов ожидаемо: компании стремятся соответствовать требованиям законодательства и соблюдать политику импортозамещения. 

«Примечательно, что 38% корпораций уже имеют собственные команды по разработке ИИ-решений для внутренних процессов. Это свидетельствует о том, что искусственный интеллект воспринимается как стратегический актив, который предпочитают развивать самостоятельно. При этом, по результатам исследования, в 75% случаев эти процессы полностью или частично не соответствуют стандарту управления безопасностью собственных ИИ-разработок — MLSecOps. С управленческой точки зрения ^[3] эти результаты демонстрируют разрыв: темпы внедрения ИИ уже опережают зрелость процессов, необходимых для контроля связанных с ним рисков. Рынок MLSecOps находится на этапе становления, и компании пока не понимают, как защищать собственные ИИ-разработки самостоятельно», — прокомментировал Александр Лысенко, ведущий эксперт по безопасности разработки и ИИ в К2 Кибербезопасность.

«Чем быстрее искусственный интеллект превращается в рабочую инфраструктуру, тем выше потребность ^[4] в том, чтобы его безопасность перестала быть набором разрозненных инициатив. Доля компаний с управляемыми процессами по защите собственной ИИ-разработки пока составляет всего 18%, а зрелая практика MLSecOps есть только у 7%. В большинстве случаев (60%) безопасность обеспечивается исключительно силами разработчиков, без привлечения ИБ-отдела, что значительно повышает риски возникновения инцидентов. Практическим подходом должна быть синергия бизнеса, ИБ и разработки: интеграция требований безопасности в дорожные карты продуктов, разработка политик безопасности с учетом обратной связи от бизнес-подразделений и регулярный аудит процессов», — прокомментировал Владислав Тушканов, руководитель группы исследования технологий машинного обучения ^[5] в «Лаборатории Касперского».