- BrainTools - https://www.braintools.ru -

История искусства информационной безопасности и её верных слуг

История искусства информационной безопасности и её верных слуг - 1

История — это фонарь в будущее, который светит нам из прошлого.

В.О. Ключевский, русский историк

Надо знать прошлое, чтобы понимать настоящее и предвидеть будущее.

В.Г. Белинский, русский литературный критик, теоретик, публицист


На связи Сергей Кубан, руководитель направления защиты инфраструктуры производства ПО в СберТехе. Наша команда отвечает за то, чтобы поставляемое клиентам ПО и сервисы соответствовали требованиям кибербезопасности.

В прошлом году я отметил 25 лет профессиональной деятельности в области информационной безопасности (ИБ). За это время мне посчастливилось работать в компаниях «Силовые машины», IBM, «Банк Санкт-Петербург», «Водоканал Санкт-Петербурга», «Транснефть». Сегодня я хотел бы рассказать об истории развития ИБ и тех, кто делал эту историю — о специалистах-кибербезопасниках.

В военных вузах есть предмет «История военного искусства». Он исследует формы и способы вооружённой борьбы, стратегию и тактику, обобщает опыт [1] прошлых войн. На мой взгляд, в вузах для кибербезопасников тоже целесообразно включать в программу историю ИБ и противоборства в киберпространстве.

В своих выступлениях на конференциях я часто провожу аналогии между ИБ, военным и художественным искусством. В этой статье также позволю себе подобные аналогии. По своему опыту опишу этапы развития ИБ: популярные технологии, средства защиты информации (СЗИ), законы, ассоциации [2] с искусством. И отмечу евангелистов ИБ, которые активно участвовали в формировании отрасли, организации и работе профессиональных сообществ и конференций, бескорыстно делились знаниями, вели блоги, учили школьников и студентов.

Это не академическое изложение и не рейтинг, а мой личный взгляд на отрасль, основанный на опыте. Поэтому все упоминания субъективны и не претендуют на полноту.

1. Возрождение (1988–2000)

Эпоха Возрождения [3]

Эпоха, связанная с началом формирования законодательства РФ по ИБ, появлением первых средств защиты информации и первых специалистов по ИБ в коммерческих и других организациях. Можно сказать, что отрасль в этот период — как младенец на картине Рафаэля «Сикстинская Мадонна» [4].

Чтобы каждый исторический этап развития ИБ обрёл визуальный образ, я обратился к возможностям искусственного интеллекта [5]. Он помог провести параллели между искусством и технологиями: все изображения в статье — генеративные вариации на тему классических полотен, переосмысленные через призму ИБ.

История искусства информационной безопасности и её верных слуг - 2

В этот период ИТ-специалисты начали сталкиваться с вредоносными программами и боролись с ними первыми антивирусами. Громкие инциденты за рубежом: заражение около 6 тыс. компьютеров «червём Морриса» (1988), похищение Кевином Митником около 20 тыс. номеров кредитных карт (1995), взлом Citibank и кража 10 млн долларов командой хакеров Владимира Левина.

Появилась также первая литература, которая лично мне помогла в начале профессии: например, «Компьютерная вирусология» Н. Безрукова.

ИТ-технологии

  • Мейнфреймы ЕС ЭВМ, персональные ЭВМ: IBM PC/XT процессор серии x86 (8086), Искра-1030, ЕС ПЭВМ.

  • Операционные системы:

    • MS-DOS → Windows 3.x → Windows 9x → Windows NT 

    • Novell NetWare

  • «Телефонный» dial-up интернет.

Средства защиты информации

  • Антивирусное ПО: антивирус Касперского, Aidstest Лозинского — предшественник Dr. Web.

Законодательство

  • Федеральный закон от 2 декабря 1990 г. N 395-1 «О банках и банковской деятельности».

  • Руководящий документ Гостехкомиссии. Автоматизированные системы. Защита от несанкционированного доступа к информации. Классификация автоматизированных систем и требования по защите информации.

  • Руководящий документ Гостехкомиссии. Средства вычислительной техники. Защита от несанкционированного доступа к информации. Показатели защищенности от несанкционированного доступа к информации.

  • Закон РФ от 21 июля 1993 г. N 5485-1 «О государственной тайне».

  • Положение о государственном лицензировании деятельности в области защиты информации.

  • Положение о порядке обращения со служебной информацией ограниченного распространения в федеральных органах исполнительной власти.

  • Положение о лицензировании деятельности предприятий, учреждений и организаций по проведению работ, связанных с использованием сведений, составляющих государственную тайну, созданием средств защиты информации, а также с осуществлением мероприятий и (или) оказанием услуг по защите государственной тайны.

  • Положение о сертификации средств защиты информации.

  • Руководящий документ Гостехкомиссии. Средства вычислительной техники. Межсетевые экраны. Защита от несанкционированного доступа. Показатели защищенности от несанкционированного доступа к информации.

  • Указ Президента РФ от 6 марта 1997 г. N 188 «Об утверждении Перечня сведений конфиденциального характера».

  • Руководящий документ Гостехкомиссии. Защита от несанкционированного доступа к информации. Часть 1. Программное обеспечение средств защиты информации. Классификация по уровню контроля отсутствия недекларированных возможностей.

  • Доктрина об информационной безопасности РФ.

2. Романтизм (2000–2003)

Эпоха романтизма [6]

В этот период ещё не было достаточного законодательства по ИБ и методических документов. Поэтому первые «романтики»-специалисты ИБ руководствовались собственными наработками. Они создавали системы защиты информации по своему усмотрению, методом проб и ошибок. Как герой картины Каспара Давида Фридриха «Странник над морем тумана» [7], который пытается сквозь туман неопределённости выразить ощущение связи между близким и далёким, конечным и бесконечным.

История искусства информационной безопасности и её верных слуг - 3

Можно в шутку сказать, что при недостатке законодательства по ИБ в это время действовали только законы Мерфи [8] Алексея Лукацкого, а методическим подспорьем была его книга «Обнаружение атак».

Начали появляться учебные центры по подготовке специалистов ИБ, проводили первые семинары и конференции. Старейшие учебные центры в РФ, созданные в этот период — «Учебный центр «Информзащита» и «Академия Информационных Систем».

ИТ-технологии

  • RISC-процессоры, ОС: Solaris, Linux, Windows 2000, Windows XP.

  • Широкополосный интернет.

Средства защиты информации

  • Средства защиты от НСД: Secret Net, Dallas Lock.

  • Развитие технологий сетевых и хостовых IPS: решения компании Internet Security Systems.

  • Зарождение учебных центров подготовки специалистов ИБ.

  • Развитие антивирусного ПО: Лаборатория Касперского, Dr.Web, Norton Antivirus.

Законодательство

«Законы Мерфи для информационной безопасности» [8], Алексей Лукацкий (шутка!)

Личности

Мои выводы:

  1. Как строить отношения с ИТ и экономической безопасностью:

    • помогать решать задачи экономбезопасности с использованием СЗИ и ИТ-технологий, в том числе в инициативном порядке;

    • знать основные бизнес-процессы компании;

    • знать ИТ-инфраструктуру, её уязвимости и векторы атак;

    • повышать уровень знаний ИТ-технологий, говорить с ИТ на одном языке;

    • помогать ИТ в реализации проектов: анализировать риски и доводить до руководства, обосновывать кадры, бюджеты и необходимость проектов;

    • защищать ИТ-специалистов от неверных административных решений, переманивания подрядчиками и прочего.

  2. Верить ИТ-подразделениям нужно осторожно, даже если слышите «у нас с ИБ всё хорошо» и «все патчи установлены». Доверяй, но проверяй.

  3. Важно найти баланс между ИБ, ИТ и бизнесом.

  4. Законы Мерфи от Лукацкого работают:

    • Если вас можно атаковать — вас атакуют (следствие основного закона Мерфи).

    • Не заявляйте о своей неуязвимости — всегда найдется тот, кто докажет обратное.

    • Из всех атак случится именно та, ущерб от которой больше всего.

    • Если в вашей сети всего один непропатченный сервер — именно через него начнётся эпидемия.

    • Следствие: как только вы отлучитесь на пять минут, ваш начальник не сможет скачать файл из-за настроек межсетевого экрана.

    • Система защиты заблокирует вашему начальнику доступ в сеть именно в тот момент, когда он думает об увеличении вашей зарплаты.

3. Академизм (2004–2012)

Эпоха академизма [13]

Бурно развиваются ИТ-технологии, СЗИ, появляются важные законы для сферы ИБ. Это даёт начало большому направлению «бумажной безопасности», особенно в сфере защиты персональных данных и коммерческой тайны. Большим успехом стали пользоваться технические средства защиты от утечек, системы обнаружения атак (IDS, IPS), решения для электронной подписи и криптографии (VPN, PKI). Продолжают совершенствоваться антивирусные программы.

В этот период на смену хакерам-одиночкам пришли хакерские криминальные и проправительственные группировки. Они стремились монетизировать результаты своих атак или нанести иной ущерб. Это привело к следующим инцидентам:

  • Рост и коммерциализация программ-вымогателей (ransomware).

  • Появились программы, нарушающие работу оборудования (в 2010 г. вредонос Stuxnet поразил промышленные контроллеры Siemens на ядерных объектах в Иране).

  • Появились программы, блокирующие бизнес DDoS-атаками (атаки группировки Anonymous на Visa, Mastercard и PayPal в 2010 г.).

Компании, не уделяющие должного внимания [14] защите, рисковали получить плачевный результат — своеобразный «Последний день Помпеи» [15].

История искусства информационной безопасности и её верных слуг - 4

В этот период вузы начали развивать специализации и готовить специалистов по информационной безопасности. Коммерческие и государственные компании впервые прошли проверки по ИБ и обработке персональных данных со стороны регуляторов.

ИТ-технологии

  • RISC-процессоры, ОС: Solaris, IBM AIX, IBM zOS, Windows 7, Windows Server 2003–2012.

  • ERP SAP, веб-сервисы, системы электронного документооборота, виртуализация.

Средства защиты информации

  • Internet Security Systems (позднее её приобрела IBM) и комплексные решения Cisco Systems: межсетевые экраны, хостовые и сетевые IPS, Endpoint Security, веб-фильтрация, сканер уязвимостей.

  • Антивирусные решения: Лаборатории Касперского, Symantec, McAfee, Trend Micro.

  • DLP-системы: Device Lock, InfoWatch, Lumension, Websense.

  • ПО для электронной подписи, PKI, удостоверяющих центров: КриптоПро, Алладин Р.Д. и др.

  • Решения для защиты веб-приложений: IBM Tivoli IAM, IBM DataPower, IBM AppScan, Oracle IAM.

  • VPN-решения и межсетевые экраны: Континент, ViPNet, С-Терра.

  • Решения IDM: IBM Tivoli Identity Manager, Oracle IDM, Microsoft IDM.

Законодательство

  • ФЗ от 27.07.2006 г. №149-ФЗ «Об информации, информационных технологиях и о защите информации»

  • ФЗ от 29.07.2004 № 98-ФЗ «О коммерческой тайне»

  • ФЗ от 27 июля 2006 г. № 152-ФЗ «О персональных данных»

Личности

Мои выводы:

  1. «Бумажная безопасность» — 80% успеха, 20% — техническая. Лучшая практика — внедрение системы менеджмента по информационной безопасности (СМИБ) по ISO 27001. В моём случае это позволило существенно повысить осведомлённость сотрудников в области ИБ, повысить доверие клиентов, обосновывать перед руководством затраты на ИБ, выстраивая защиту активов с учётом рисков. Результаты внедрения СМИБ позволили также качественно подготовиться к многочисленным проверкам регуляторов — ФСТЭК и Роскомнадзора — и пройти их без нарушений.

  2. Работа в ИТ-компании-разработчике ПО и сервисов по ИБ (IBM Восточная Европа/Азия) — колоссальный опыт:

    • публичные выступления, подготовка презентаций, участие в форумах и конференциях по ИБ, навыки командной работы;

    • возможности для развития;

    • приобретение полезных связей;

    • знакомство с регионами РФ и СНГ;

    • понимание потребностей [18] заказчиков из разных отраслей.

  3. Делитесь знаниями с подчиненными, коллегами, студентами. Помогайте им в работе и не только. Включайтесь в работу профсообществ ИБ (RISC [19] и др.), ведите блог, выступайте на конференциях.

4. Реализм + Модерн + Сюрреализм (2012–2025)

Эпоха реализма [20]

Эпоха модерна [21]

Эпоха сюрреализма [22]

Реализм в привязке к ИБ — это острая необходимость как можно «точнее и объективнее изображать действительность», связанную с атаками, с помощью SIEM и иных аналитических систем, использовать подходы по моделированию угроз ФСТЭК и MITRE ATT&CK.

Модерн — формируются новые классы ИБ-решений: SIEM, IRP, сетевые песочницы, почтовые шлюзы, средства защиты АСУ ТП и DevSecOps, а также достаточно зрелые MSSP-услуги ИБ: SOC, AntiDDoS, WAF, пентесты, киберучения.

Сюрреализм — «совмещение сна [23] и реальности». Нагрузка на кибербезопасников возросла в разы: кажется, что работаешь 24/7, и ИБ уже снится. Огромный импульс этому периоду дал закон №187-ФЗ «О безопасности критической информационной инфраструктуры Российской Федерации» и подзаконные акты ФСТЭК и ФСБ как для «бумажной безопасности», так и для развития ИТ-технологий и СЗИ.

В начале 2020-х годов компании-субъекты критической инфраструктуры РФ начали импортозамещать ИТ и системы защиты информации, приводить СЗИ в соответствие требованиям №187-ФЗ. Значительно усилилось законодательное регулирование отрасли, увеличились атаки на инфраструктуры компаний (Wanna Cry [24], NotPetya [25]) и утечки. Это тяжким бременем легло [26] на плечи кибербезопасников: они, словно бурлаки на Волге [27], тянут тяжёлый корабль под названием «Кибербезопасность». Появились публикации про профессиональное выгорание [28] специалистов ИБ.

История искусства информационной безопасности и её верных слуг - 5

ИТ-технологии

  • ОС Linux, open source, облачные и микросервисные технологии, веб-сервисы, мобильные приложения, DevSecOps, решения для удаленной работы и удаленного доступа, ИИ-технологии.

Средства защиты информации

  • Эра SIEM: ArcSight, Splunk, IBM QRadar, MaxPatrol SIEM, KUMA Лаборатории Касперского.

  • IRP: R-Vision, Security Vision.

  • Анализ защищенности: MaxPatrol VM, Nessus, RedCheck.

  • Защита АСУ ТП: KICS Лаборатории Касперского, InfoWatch, Positive Technologies.

  • MSSP-услуги: SOC, AntiDDoS, WAF, пентесты, киберучения и др., Bi.ZONE, Solar, Curator, Angara Security, Security Vision.

  • СЗИ для DevSecOps и контейнерной инфраструктуры: Luntry, Kaspersky Container Security.

  • Решения для привилегированного доступа: СКДПУ НТ, Indeed PAM, BI.ZONE PAM.

  • Решения для защиты конечных устройств Endpoint Security, EDR: Kaspersky EDR+Endpoint Security, Bi.ZONE EDR.

  • NGFW: Cisco, Check Point, PaloAlto Networks, Fortinet, UserGate.

  • Сетевые песочницы: Cisco, Check Point, PaloAlto Networks, Fortinet, PT Sandbox, Kaspersky.

  • DLP: InfoWatch, Стахановец, SearchInform, Solar Dozor.

  • Большой класс open source СЗИ для CI/CD и решений для защиты облачных инфраструктур.

Законодательство

  • ФЗ от 26 июля 2017 г. №187-ФЗ «О безопасности критической информационной инфраструктуры Российской Федерации» и все подзаконные акты ФСТЭК России, ФСБ России

Личности

С уходом зарубежных вендоров в 2022 году многие компании остались без надёжных решений для защиты веб-приложений и сервисов класса IAM, IDM, защиты API. Отечественные производители практически не разрабатывали их. В этот период СберТех начал писать свою историю создания средств защиты информации. В кратчайшие сроки компания разработала и внедрила у заказчиков комплексные решения:

  • для защиты веб-приложений, в том числе с использованием сертифицированных ФСТЭК продуктов,

  • для защиты объектов КИИ по закону №187-ФЗ и Указу №250,

  • для систем персональных данных по законодательству РФ об обработке и защите персональных данных.

Я уже упоминал, что работал в IBM, а также с другими зарубежными вендорами по ИБ. Это даёт мне возможность сравнить подходы производства и поставки программных продуктов. В чём достоинства подходов СберТеха:

  • функциональность решений в целом не уступает зарубежной, а иногда и превосходит;

  • выше скорость внедрения решений;

  • выше удовлетворённость заказчиков и партнёров;

  • лучше техподдержка;

  • выстроено взаимодействие с регуляторами;

  • есть сертификация ФСТЭК продуктов и процессов безопасной разработки по ГОСТ Р 56939 «Защита информации. Разработка безопасного программного обеспечения. Общие требования».

Наши решения высоко оценили партнёры — российские разработчики СЗИ, они успешно встраивают их в свои продукты.

Задача

Продукт

Примеры, публикации

Какие зарубежные аналоги замещает

Обеспечить аутентификацию, авторизацию пользователей в приложениях. Построить технологии единого входа (Single sign-on / SSO) для веб- и мобильных приложений

Platform V IAM SE [40] (Identity & Access Management)

Сертификат ФСТЭК России №4999

Соответствует требованиям документов: Требования доверия(4), ТУ

Действует до 26.11.2030

Сбер полностью заменил IBM-решения для управления учётными записями и доступом в информационных системах банка на решения Platform V [41]

IBM Security Access Manager

Oracle Access Manager

Организовать централизованное управление учетными записями сотрудников, их правами и доступом к информационным ресурсам организации. Обеспечить полный жизненный цикл учетных записей, поддержки управления пользователями и их полномочиями

Platform V IDM [42]

IBM Security Identity Manager

One Identity Manager

Microsoft Identity Manager

SalePoint IdentityIQ

Oracle Identity Manager

Обеспечить безопасность API и веб-сервисов. Защитить API, конфиденциальные данные и приложения от кибератак

Platform V SOWA [43]

Миграция Сбербанка Онлайн и банкоматов Сбера на шлюз безопасности Platform V SOWA [44]

Практики защиты API в современном мире [45]

Безопасность на высоте: как защищать API сегодня. Часть 2 [46]

СберТех разработал решение для безопасной работы с генеративным ИИ [47]

IBM DataPower

Использовать защищенную СУБД в программных решениях и СЗИ

Platform V Pangolin DB [48]

Сертификат ФСТЭК России №4704

Соответствует требованиям документов: Требования доверия(4), Требования к СУБД(4).

Действует до 22.08.2028

СберТех и «Стахановец» обеспечат бизнесу надёжную защиту коммерческих данных [49]

СберТех и InfoWatch обеспечат высокий уровень информационной безопасности в российских компаниях [50]

Как СберТех доработал СУБД Platform V Pangolin, чтобы соответствовать актуальным требованиям безопасности ФСТЭК России [51]

Сбер полностью импортозаместит зарубежные СУБД в значимых объектах критической инфраструктуры к концу 2024 года [52]

СУБД Platform V Pangolin поможет бизнесу обеспечить самые высокие требования безопасности [53]

Позволяет мигрировать с Oracle, MS SQL, PostgreSQL, IBM DB2

Использовать защищенную ОС и системы управления контейнерами в программных решениях и СЗИ

Platform V SberLinux OS Server [54]

Сертификат ФСТЭК России №4884

Соответствует требованиям документов: Требования доверия(4), Требования к ОС, Профиль защиты ОС(А четвертого класса защиты. ИТ.ОС.А4.ПЗ), Требования к средствам контейнеризации(4), Требования к средствам виртуализации(4)

Действует до 04.12.2029

Серверная ОС и система управления контейнерами от СберТеха помогут бизнесу обеспечить самые высокие требования безопасности [55]

Сбер перевел 43 тысячи серверов с Red Hat Linux на ОС от СберТеха [56]

Решения СберТеха и Солара помогают бизнесу создать эффективную систему защиты информации [57]

Подтверждена совместимость ОС от СберТеха с платформой для обеспечения безопасности информационных систем R-Vision [58]

Обеспечивает бесшовную миграцию с зарубежных дистрибутивов Linux на базе RPM (RHEL, Oracle Linux и других ОС)

Использовать защищенную систему управления контейнерами в программных решениях и СЗИ

Platform V DropApp [59]

Сертификат ФСТЭК России №4883

Соответствует требованиям документов: Требования доверия(4), Требования к средствам контейнеризации(4)

Действует до 04.12.2029

Серверная ОС и система управления контейнерами от СберТеха помогут бизнесу обеспечить самые высокие требования безопасности [55]

Обеспечивает легкий переход с Kubernetes, OpenShift и других оркестраторов

Мои выводы:

  1. В этот период не раз вспоминались бессмертные слова из книги великого русского полководца А.В. Суворова «Наука побеждать», а также их аналогии с нынешними кибербаталиями:

    «Наука побеждать», А.В. Суворов

    Принципы кибербезопасности

    «Каждый солдат должен знать свой манёвр».

    1. Распределение обязанностей и ответственность.

    2. Обучение [60] и осведомлённость.

    3. База знаний инцидентов.

    4. Киберучения: пользователи (противодействие фишингу) и персонал SOC (RedTeaming).

    «Истинный полководец тот, кто побеждает неприятеля, не доходя до него, побеждает сначала мыслью, а потом делом».

    1. Управление инцидентами.

    2. Инвентаризация информационных ресурсов.

    3. Управление угрозами и уязвимостями: разработка. Модели угроз ИБ на основе Kill Chain, MITRE ATT&CK.

    4. Технологии киберразведки Cyber Threat Intelligence.

    «Стреляй редко, да метко, штыком коли крепко. Пуля обмишулится, а штык не обмишулится. Пуля — дура, а штык — молодец.

    Береги пулю в дуле! Трое наскочат — первого заколи, второго застрели, третьему штыком карачун!».

    Конфигурирование SIEM и СЗИ на основе результатов моделирования угроз и результатов киберразведки. Эшелонированная защита.

    Всё это помогло нам защититься от серьёзных атак: WannaCry, NotPetya и других.

  2. Защита от выгорания:

    • Автоматизация рутинных операций.

    • Делегирование ответственности.

    • Не гнаться за многозадачностью [61]. Брать в работу одну-две задачи, погружаться в них и наслаждаться процессом.

    • Гигиена коммуникаций. Избегать общения, которое не приводит к комфорту и развитию.

    • Искать в работе творчество [62] и развитие.

    • Переключаться на отдых: заниматься спортом, чтением книг, изучением языков и т. п.

  3. ИИ в кибербезопасности: начать изучать возможности злоумышленника по использованию ИИ для атак и возможности использования ИИ для противодействия им.

5. Постмодернизм (2025–настоящее время)

Эпоха постмодернизма [63]

Концептуальное искусство [64]

В постмодернизме есть направление — концептуальное искусство. В нём концепция произведения важнее формы, а цель искусства — в передаче идеи. Концептуальным объектом может быть фраза, текст, схема, график, чертеж, фотография, аудио или видео, инструкция. Классический образец — композиция «Один и три стула» [65] (1965): стул, его фотография и описание предмета из словаря.

Эта эпоха в ИБ, пожалуй, будет характеризоваться тем, что и злоумышленники, и кибербезопасники будут максимально использовать возможности ИИ. В атаках с использованием ИИ форма не главное. Она может быстро и постоянно меняться — как и на картине «Один и три стула» стул и его фотография должны меняться с каждой новой экспозицией.

История искусства информационной безопасности и её верных слуг - 6

Важна сама идея атак, усиленная ИИ, с использованием разных «концептуальных объектов»: текста (фишинг), фото, аудио, видео (дипфейки), инструкций (атаки на цепочки поставок, эксплуатация уязвимостей). В этот период кибербезопасникам важно взять в помощь возможности ИИ (AI Security): фреймворки для управления безопасностью ИИ-систем, мультиагентные системы защиты и т. д.

ИТ-технологии

  • Большие языковые модели: GigaChat, YandexGPT, Claude, GPT, Gemini, DeepSeek, Copilot и др.

  • ИИ-ассистенты разработчиков (AI-IDE): GigaCode, Cursor, GitHub Copilot, Claude Code, Gemini Code Assist, JetBrains AI Assistant.

  • ИИ-агенты и пр.

Средства защиты информации

  • Platform V SOWA [43] — шлюз для защиты ИИ-систем c встроенными AI-Guardrails: предотвращение промпт-инъекций и утечек данных.

  • ProtectAI Guardian — аудит ML-проектов, поиск уязвимостей, управление безопасностью моделей.

  • Giskard — тестирование моделей на bias и уязвимости.

  • ART (Adversarial Robustness Toolbox, Trusted-AI) — библиотека атак/защит против adversarial input.

  • Guardora — конфиденциальное обучение (privacy-preserving ML), защита тренировочных данных и алгоритмов.

  • AppSec.GenAI — анализ защищенности ИИ-моделей, предотвращение промпт-инъекций и утечек данных.

  • Lakera — мониторинг и защита LLM от промпт-инъекций.

  • ModelScan (ProtectAI) — поиск уязвимостей в ML-моделях при релизе.

  • Garak (NVIDIA) — фреймворк тестирования безопасности LLM.

  • PyRIT (Azure) — проверка устойчивости ИИ-сервисов Microsoft.

  • SimuStrike (Газинформсервис, LLM) — автоматизированный пентест (BAS) внешней и внутренней инфраструктуры, проверка защищённости окружения перед релизом модели.

  • Guardora — безопасный инференс, защита каналов передачи данных, интеграция криптографических средств.

  • LLamator — мониторинг поведения [66] LLM, обнаружение аномалий и фильтрация вредоносных запросов.

  • Guardrails.ai и NeMo Guardrails (NVIDIA) — политика безопасных ответов, ограничение поведения [67] LLM.

  • LlamaGuard — фильтрация токсичных и конфиденциальных запросов.

  • Rebuff — обнаружение промпт-инъекций.

  • ProtectAI и Cisco AI Validation — управление рисками и мониторинг моделей.

  • HiveTrace — мониторинг поведения модели, выявление аномалий и атак во время работы.

  • SimuStrike (BAS) — непрерывный сценарный тест (red-team и blueteam) для проверки защищённости инфраструктуры.

  • AppSec.GenAI — анализ защищенности ИИ-моделей, предотвращение промпт-инъекций и утечек данных.

  • Guardora — безопасное дообучение (finetuning) ML-моделей в контуре клиента без передачи конфиденциальных данных.

Законодательство

Формируется.

Методические документы:

Фреймворки

  • MITRE ATLAS [71] — каталог угроз и сценариев атак на ИИ-системы; используется для моделирования угроз и определения векторов атак на этапе проектирования.

  • ISO/IEC 42001:2023 стандарт системы управления ИИ; требования к ответственному, безопасному и прозрачному использованию ИИ.

  • NIST AI RMF модель управления рисками ИИ; принципы оценки, снижения и мониторинга рисков на всех этапах жизненного цикла.

  • OWASP AI Maturity Assessment (AIMA) модель оценки зрелости безопасности ИИ, определяющая уровень процессов, рисков и защитных практик.

  • Сбер: модель угроз для кибербезопасности ИИ — каталог ключевых угроз для ИИ-систем, используемый для оценки рисков и выбора мер защиты [72].

  • Яндекс: AI Secure Agentic Framework Essentials (AI-SAFE) фреймворк для безопасной разработки ИИ-систем; включает чек-листы и практики по управлению рисками и защите данных.

  • Swordfish: SAIMM-модель зрелости защищенности ИИ; предоставляет организациям единый ориентир и методологическую основу для оценки и повышения уровня безопасности в сфере ИИ.

Общие выводы

  • Искусство ИБ — это мастерство, которое приносит эстетическое удовольствие тебе и коллегам, а злоумышленникам — досаду.

  • Совершенствуй себя и других, совершенствуй ИБ, будь изобретательным.

  • Как руководитель, распределяй обязанности по навыкам коллег: «от каждого по способностям, каждому по труду». Тогда результаты работы принесут им удовлетворение, а ИБ — эффективность.

  • Формируй свою историю противоборства в киберпространстве, веди заметки:

    • Инциденты в своей организации: выводы, разборы — основа для Playbook и других мер защиты.

    • Мировые киберинциденты: векторы атак, IoC, статистика — основа для моделей угроз, рисков, киберучений, презентаций и пр.

Где лучше работать кибербезопаснику? Там, где:

  • амбициозные, перспективные и понятные цели по ИБ;

  • поддержка руководства;

  • ИБ как продукт (свойство продукта): ПО и/или сервис;

  • можно совершенствовать себя и отрасль;

  • есть творческие задачи и минимум рутины.

Мы в СберТехе создаём в своей команде [73] такую атмосферу, которая позволяет специалистам раскрывать себя в разных направлениях кибербезопасности.

Приходите!

Автор: VinovatCyberbez

Источник [74]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/32379

URLs in this post:

[1] опыт: http://www.braintools.ru/article/6952

[2] ассоциации: http://www.braintools.ru/article/621

[3] Эпоха Возрождения: https://ru.wikipedia.org/wiki/%D0%92%D0%BE%D0%B7%D1%80%D0%BE%D0%B6%D0%B4%D0%B5%D0%BD%D0%B8%D0%B5

[4] «Сикстинская Мадонна»: https://ru.wikipedia.org/wiki/%D0%A1%D0%B8%D0%BA%D1%81%D1%82%D0%B8%D0%BD%D1%81%D0%BA%D0%B0%D1%8F_%D0%BC%D0%B0%D0%B4%D0%BE%D0%BD%D0%BD%D0%B0

[5] интеллекта: http://www.braintools.ru/article/7605

[6] Эпоха романтизма: https://ru.wikipedia.org/wiki/%D0%A0%D0%BE%D0%BC%D0%B0%D0%BD%D1%82%D0%B8%D0%B7%D0%BC

[7] «Странник над морем тумана»: https://ru.wikipedia.org/wiki/%D0%A1%D1%82%D1%80%D0%B0%D0%BD%D0%BD%D0%B8%D0%BA_%D0%BD%D0%B0%D0%B4_%D0%BC%D0%BE%D1%80%D0%B5%D0%BC_%D1%82%D1%83%D0%BC%D0%B0%D0%BD%D0%B0

[8] законы Мерфи: https://www.securitylab.ru/opinion/212050.php

[9] Алексей Лукацкий: https://lukatsky.ru/aboutme

[10] Сергей Петренко: https://inside-zi.ru/pages/about.html

[11] Петр Зегжда: https://ru.wikipedia.org/wiki/%D0%97%D0%B5%D0%B3%D0%B6%D0%B4%D0%B0,_%D0%9F%D1%91%D1%82%D1%80_%D0%94%D0%BC%D0%B8%D1%82%D1%80%D0%B8%D0%B5%D0%B2%D0%B8%D1%87

[12] Дмитрий Зегжда: https://ru.wikipedia.org/wiki/%D0%97%D0%B5%D0%B3%D0%B6%D0%B4%D0%B0,_%D0%94%D0%BC%D0%B8%D1%82%D1%80%D0%B8%D0%B9_%D0%9F%D0%B5%D1%82%D1%80%D0%BE%D0%B2%D0%B8%D1%87

[13] Эпоха академизма: https://ru.wikipedia.org/wiki/%D0%90%D0%BA%D0%B0%D0%B4%D0%B5%D0%BC%D0%B8%D0%B7%D0%BC

[14] внимания: http://www.braintools.ru/article/7595

[15] «Последний день Помпеи»: https://ru.wikipedia.org/wiki/%D0%9F%D0%BE%D1%81%D0%BB%D0%B5%D0%B4%D0%BD%D0%B8%D0%B9_%D0%B4%D0%B5%D0%BD%D1%8C_%D0%9F%D0%BE%D0%BC%D0%BF%D0%B5%D0%B8

[16] Юрий Малинин: https://www.tadviser.ru/index.php/%D0%9F%D0%B5%D1%80%D1%81%D0%BE%D0%BD%D0%B0:%D0%9C%D0%B0%D0%BB%D0%B8%D0%BD%D0%B8%D0%BD_%D0%AE%D1%80%D0%B8%D0%B9_%D0%92%D0%B8%D1%82%D0%B0%D0%BB%D1%8C%D0%B5%D0%B2%D0%B8%D1%87

[17] Михаил Емельянников : https://emeliyannikov.blogspot.com/

[18] потребностей: http://www.braintools.ru/article/9534

[19] RISC: https://vk.com/risclubspb

[20] Эпоха реализма : https://ru.wikipedia.org/wiki/%D0%A0%D0%B5%D0%B0%D0%BB%D0%B8%D0%B7%D0%BC_(%D0%B6%D0%B8%D0%B2%D0%BE%D0%BF%D0%B8%D1%81%D1%8C)

[21] Эпоха модерна: https://ru.wikipedia.org/wiki/%D0%9C%D0%BE%D0%B4%D0%B5%D1%80%D0%BD

[22] Эпоха сюрреализма: https://ru.wikipedia.org/wiki/%D0%A1%D1%8E%D1%80%D1%80%D0%B5%D0%B0%D0%BB%D0%B8%D0%B7%D0%BC

[23] сна: http://www.braintools.ru/article/9809

[24] Wanna Cry: https://ru.wikipedia.org/wiki/WannaCry

[25] NotPetya: https://ru.wikipedia.org/wiki/Petya

[26] легло: https://cyber-ed.ru/news/vygoranie-v-kiberbezopasnosti-kogda-ne-spasayut-ni-siem-ni-kofe

[27] бурлаки на Волге: https://ru.wikipedia.org/wiki/%D0%91%D1%83%D1%80%D0%BB%D0%B0%D0%BA%D0%B8_%D0%BD%D0%B0_%D0%92%D0%BE%D0%BB%D0%B3%D0%B5

[28] профессиональное выгорание: https://habr.com/ru/companies/searchinform/articles/913454/

[29] Валерий Комаров: https://www.blogger.com/profile/09144285084155309355

[30] Денис Батранков: https://safebdv.blogspot.com/

[31] Андрей Прозоров: https://vk.com/isms8020

[32] Павел Луцик: https://plutsik.blogspot.com/

[33] Рустэм Хайретдинов: https://www.tadviser.ru/index.php/%D0%9F%D0%B5%D1%80%D1%81%D0%BE%D0%BD%D0%B0:%D0%A5%D0%B0%D0%B9%D1%80%D0%B5%D1%82%D0%B4%D0%B8%D0%BD%D0%BE%D0%B2_%D0%A0%D1%83%D1%81%D1%82%D1%8D%D0%BC_%D0%9D%D0%B8%D0%BB%D0%BE%D0%B2%D0%B8%D1%87

[34] Андрей Масалович : https://t.me/s/deedcoin_club

[35] Екатерина Старостина: https://t.me/ithubsecurity

[36] Юрий Малинин: https://www.infosystems.ru/

[37] Сергей Борисов: https://sborisov.blogspot.com

[38] Ксения Шудрова: https://shudrova.blogspot.com

[39] Антон Шипулин: https://t.me/shipulin_anton

[40] Platform V IAM SE: https://platformv.sbertech.ru/products/servisy-bezopasnosti/iam

[41] Сбер полностью заменил IBM-решения для управления учётными записями и доступом в информационных системах банка на решения Platform V: https://platformv.sbertech.ru/blog/sber-polnostyu-zamenil-ibm-resheniya-dlya-upravleniya-uchyotnymi-zapisyami-i-dostupom-v-informaczionnyh-sistemah-banka-na-resheniya-platform-v

[42] Platform V IDM: https://platformv.sbertech.ru/products/servisy-bezopasnosti/idm

[43] Platform V SOWA: https://platformv.sbertech.ru/products/servisy-bezopasnosti/sowa

[44] Миграция Сбербанка Онлайн и банкоматов Сбера на шлюз безопасности Platform V SOWA: https://platformv.sbertech.ru/cases/migracziya-bankomatov-sbera-i-sberbanka-onlajn-na-shlyuz-bezopasnosti-platform-v-sowa

[45] Практики защиты API в современном мире: https://platformv.sbertech.ru/blog/bezopasnost-na-vysote-kak-zashhishhat-api-segodnya

[46] Безопасность на высоте: как защищать API сегодня. Часть 2: https://platformv.sbertech.ru/blog/bezopasnost-na-vysote-kak-zashhishhat-api-segodnya-chast-2

[47] СберТех разработал решение для безопасной работы с генеративным ИИ: https://platformv.sbertech.ru/blog/sber-teh-razrabotal-reshenie-dlya-bezopasnoj-raboty-s-generativnym-ii

[48] Platform V Pangolin DB: https://platformv.sbertech.ru/products/rabota-s-dannymi/pangolin

[49] СберТех и «Стахановец» обеспечат бизнесу надёжную защиту коммерческих данных: https://platformv.sbertech.ru/blog/sber-teh-i-stahanovecz-obespechat-biznesu-nadyozhnuyu-zashhitu-kommercheskih-dannyh

[50] СберТех и InfoWatch обеспечат высокий уровень информационной безопасности в российских компаниях: https://platformv.sbertech.ru/blog/sber-teh-i-info-watch-obespechat-vysokij-uroven-informaczionnoj-bezopasnosti-v-rossijskih-kompaniyah

[51] Как СберТех доработал СУБД Platform V Pangolin, чтобы соответствовать актуальным требованиям безопасности ФСТЭК России: https://platformv.sbertech.ru/blog/kak-sber-teh-dorabotal-subd-platform-v-pangolin-chtoby-sootvetstvovat-aktualnym-trebovaniyam-bezopasnosti-fstek-rossii

[52] Сбер полностью импортозаместит зарубежные СУБД в значимых объектах критической инфраструктуры к концу 2024 года: https://platformv.sbertech.ru/blog/sber-polnostyu-importozamestit-zarubezhnye-subd-v-znachimyh-obektah-kriticheskoj-infrastruktury-k-konczu-2024-goda

[53] СУБД Platform V Pangolin поможет бизнесу обеспечить самые высокие требования безопасности: https://platformv.sbertech.ru/blog/subd-platform-v-pangolin-pomozhet-biznesu-obespechit-samye-vysokie-trebovaniya-bezopasnosti

[54] Platform V SberLinux OS Server: https://platformv.sbertech.ru/products/oblachnaya-infrastruktura/linux-os-server

[55] Серверная ОС и система управления контейнерами от СберТеха помогут бизнесу обеспечить самые высокие требования безопасности: https://platformv.sbertech.ru/blog/servernaya-os-i-sistema-upravleniya-kontejnerami-ot-sber-teha-pomogut-biznesu-obespechit-samye-vysokie-trebovaniya-bezopasnosti

[56] Сбер перевел 43 тысячи серверов с Red Hat Linux на ОС от СберТеха: https://platformv.sbertech.ru/blog/sber-perevel-43-tysyachi-serverov-s-red-hat-linux-na-os-ot-sber-teha

[57] Решения СберТеха и Солара помогают бизнесу создать эффективную систему защиты информации: https://platformv.sbertech.ru/blog/resheniya-sber-teha-i-solara-pomogayut-biznesu-sozdat-effektivnuyu-sistemu-zashhity-informaczii

[58] Подтверждена совместимость ОС от СберТеха с платформой для обеспечения безопасности информационных систем R-Vision: https://platformv.sbertech.ru/blog/podtverzhdena-sovmestimost-os-ot-sber-teha-s-platformoj-dlya-obespecheniya-bezopasnosti-informaczionnyh-sistem-r-vision

[59] Platform V DropApp: https://platformv.sbertech.ru/products/oblachnaya-infrastruktura/dropapp

[60] Обучение: http://www.braintools.ru/article/5125

[61] многозадачностью: http://www.braintools.ru/article/3673

[62] творчество: http://www.braintools.ru/creation

[63] Эпоха постмодернизма: https://ru.wikipedia.org/wiki/%D0%9F%D0%BE%D1%81%D1%82%D0%BC%D0%BE%D0%B4%D0%B5%D1%80%D0%BD%D0%B8%D0%B7%D0%BC

[64] Концептуальное искусство: https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D0%BD%D1%86%D0%B5%D0%BF%D1%82%D1%83%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%D0%B5_%D0%B8%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%BE

[65] «Один и три стула»: https://ru.wikipedia.org/wiki/%D0%9E%D0%B4%D0%B8%D0%BD_%D0%B8_%D1%82%D1%80%D0%B8_%D1%81%D1%82%D1%83%D0%BB%D0%B0

[66] поведения: http://www.braintools.ru/article/9372

[67] поведения: http://www.braintools.ru/article/5593

[68] ГОСТ Р ИСО/МЭК 42001-2024 Национальный стандарт Российской Федерации. Искусственный интеллект. Система менеджмента: https://docs.cntd.ru/document/1310068313

[69] Приказ ФСТЭК России №117: https://fstec.ru/dokumenty/vse-dokumenty/spetsialnye-normativnye-dokumenty/trebovaniya-utverzhdeny-prikazom-fstek-rossii-ot-11-aprelya-2025-g-n-117

[70] Методика анализа защищенности информационных систем ФСТЭК России: https://fstec.ru/dokumenty/vse-dokumenty/spetsialnye-normativnye-dokumenty/metodicheskij-dokument-ot-25-noyabrya-2025-g

[71] MITRE ATLAS: https://atlas.mitre.org/

[72] Сбер: модель угроз для кибербезопасности ИИ — каталог ключевых угроз для ИИ-систем, используемый для оценки рисков и выбора мер защиты: https://www.sberbank.ru/ru/person/kibrary/experts/model-ugroz-kiberbezopasnosti-ai

[73] команде: https://developers.sber.ru/kak-v-sbere/teams/cybersecurity

[74] Источник: https://habr.com/ru/companies/sberbank/articles/1051496/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1051496

www.BrainTools.ru

Rambler's Top100