Доверенные технологии ИИ versus Доверие к системам ИИ

Сразу оговорюсь: хотел опубликовать недоверия пост, но не хватило символов, поэтому статья, но небольшая.

Речь об одной маленькой лакуне в действующем законодательстве России. Смотрим пп. «ц» п. 5 Национальной стратегии развития искусственного интеллекта на период до 2030 года, утв. Указом Президента РФ от 10.10.2019 № 490 ^[1]:

доверенные технологии искусственного интеллекта ^[2] – технологии, отвечающие стандартам безопасности, разработанные с учетом принципов объективности, недискриминации, этичности, исключающие при их использовании возможность причинения вреда человеку и нарушения его основополагающих прав и свобод, нанесения ущерба интересам общества и государства

По идее, здесь следует ожидать нормативный акт уровня федерального закона или хотя бы постановления Правительства РФ, в котором бы прописывались указанные стандарты безопасности, то, как принципы объективности, недискриминации и этичности «ложатся» на искусственный интеллект, как добиваться исключения причинения вреда человеку и т.д. Вероятно, появится какой-нибудь реестр, который тоже надо как-то вести.

В общем, без конкретики это всего лишь декларация.

При этом термин уже используется во вполне приземленных актах (да, их немного, но он есть): Приказ ФСТЭК России от 11.04.2025 № 117 «Об утверждении Требований о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений» ^[3], п. 49:

… В ходе проведения мониторинга информационной безопасности для анализа зафиксированных событий безопасности и выявленных в них признаков реализации актуальных угроз допускается использование доверенных технологий искусственного интеллекта <17>.

——————————–

<17> Подпункт “ц” пункта 5 Национальной стратегии развития искусственного интеллекта.

П. 61:

… Непосредственно в состав информационных систем должны включаться доверенные технологии искусственного интеллекта <25> или их компоненты.

——————————–

<25> Подпункт “ц” пункта 5 Национальной стратегии развития искусственного интеллекта.

Но вот есть же ГОСТ Р 59276-2020 «Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения» ^[4], введенный в действие 01.03.2021г.! Однако сразу бросается в глаза семантическое несоответствие: здесь «доверенные технологии», а там «доверие» и «системы». Не все технологии являются системами и не все системы – технологиями. См. п. 3.4:

доверенная система искусственного интеллекта: Система искусственного интеллекта, в отношении которой потребитель и, при необходимости, организации, ответственные за регулирование вопросов создания и применения систем искусственного интеллекта, проявляют доверие

А следом п. 3.3:

доверие к системе искусственного интеллекта: Уверенность потребителя, и при необходимости, организаций, ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, и иных заинтересованных сторон в том, что система способна выполнять возложенные на нее задачи с требуемым качеством

Снова «не бьется». «Доверенный технологии ИИ» из Национальной стратегии – это о свойствах, соответствии требованиям; «доверенная система ИИ» из ГОСТа – о функциональности.

Ну и до кучи: термин «Доверенные технологии искусственного интеллекта» появился в Национальной стратегии только в 2024 году (Указ Президента РФ от 15.02.2024 № 124), тогда как ГОСТ – от 2021 года. Т.е. они вообще никак не связаны!

Соответственно, захоти кто выполнить положения 117-го приказа ФСТЭК – руководствоваться ГОСТом нецелесообразно.

Вероятно, какое-то нормативное «бурление» в кулуарах имеет место быть. Об этом свидетельствует проект Приказа ФСТЭК России «О внесении изменений в Требования о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений, утвержденные приказом Федеральной службы по техническому и экспортному контролю от 11 апреля 2025 г. N 117» (подготовлен ФСТЭК России, ID проекта 01/02/08-26/00170500 ^[5]), которым оба пункта, содержащие слова «доверенные технологии», подлежат изменению, п. 2:

В абзаце третьем пункта 49 слово “доверенных” исключить

П. 8:

Пункт 61 изложить в следующей редакции:

“61. При применении агентов искусственного интеллекта, в том числе автономных агентов искусственного интеллекта, оператором (обладателем информации) информационной системы должны быть приняты меры защиты информации, направленные на предотвращение несанкционированного воздействия на ресурсы информационной системы, а также контроль и управление правами доступа агентов в соответствии с внутренними стандартами и регламентами по защите информации.

При использовании в информационных системах сервисов на основе моделей искусственного интеллекта осуществляемые подрядной организацией мероприятия и меры защиты информации устанавливаются во внутренних стандартах и регламентах по защите информации.”

И хотя это всего лишь проект, тем не менее становится очевидно, что у ФСТЭК какое-то свое видение этой ситуации.

На текущий момент в отношении доверенных технологий ИИ обсуждать нечего, увы…