«Лаборатория Касперского» подписала пакт Европейской комиссии об искусственном интеллекте

Компания «Лаборатория Касперского» подписала пакт об ИИ — инициативу Европейской комиссии, которая направлена на формирование единой правовой системы по применению искусственного интеллекта ^[1]. 

Планируется, что к середине 2026 года вступит в силу Закон ЕС об искусственном интеллекте. Он предусматривает развитие ИИ-технологий с учётом безопасности и этических норм, а также устранение возможных рисков. Пакт об ИИ упрощает переход к новому порядку и предоставляет организациям возможность заранее адаптироваться к ключевым положениям будущего законодательства, отмечают ^[2]в «Лаборатории Касперского».

В рамках соглашения компания взяла на себя три основных обязательства: внедрить стратегию управления ИИ, которая интегрирует его в деятельность компании с учётом будущих норм; выявить системы ИИ высокого риска, указанные в законе, и повысить уровень осведомлённости сотрудников и других лиц, работающих с ИИ, с учётом их квалификации.

Кроме того, компания заявила о готовности выявлять риски, которые затрагивают права людей при использовании ИИ, информировать пользователей о взаимодействии с ИИ-системами и оповещать сотрудников о развёртывании ИИ-технологий на их устройствах.

В 2024 году «Лаборатория Касперского» вошла в Глобальный альянс по искусственному интеллекту для промышленности, сформированный ЮНИДО в 2023 году, и присоединилась к Альянсу в сфере ИИ в России, который предназначен для ответственного развития ИИ.

Кроме того, компания разработала ^[3] руководство по безопасной разработке и внедрению систем на основе искусственного интеллекта (ИИ). Документ был представлен на международном Форуме ООН по управлению интернетом, проходившем в Эр‑Рияде в декабре 2024 года.

По словам ИБ‑компании, цель документа — помочь организациям избежать киберрисков, связанных с применением технологий ИИ. В первую очередь руководство предназначено для разработчиков, системных администраторов, DevOps‑команд. В инструкциях содержатся детальные практические советы о том, как предотвращать или устранять технические недостатки и операционные риски.

В октябре «Лаборатория Касперского» предложила ^[4]создать в РФ центр безопасности ИИ. По мнению директора по исследованиям и разработке компании Антона Иванова, новый центр ИИ должен агрегировать информацию по актуальным способам атак на алгоритмы ИИ и отдельно собирать информацию об уязвимостях и закладках в компонентах систем, использующих ИИ, и предоставлять разработчикам систем, использующих ИИ, доступ к ней.