Как защищать ИИ-системы и конвейер разработки. Смотрим доклады с PRO DevSecOps Conf 2026
Привет, Хабр!ИИ попадает в продакшен быстрее, чем команды успевают выстроить вокруг него защиту, а в России уже действует 243-ФЗ об ИИ и растут требования к безопасной разработке. Обо всем этом мы говорили 22 сентября на PRO DevSecOps Conf 2026, ежегодной конференции ГК Swordfish Security по безопасной разработке и защищенному ИИ.Своим опытом поделились более 30 спикеров, среди них представители Банка России, ИСП РАН, Газпромбанка, «Почты России» и ВымпелКома.На конференции мы:обсудили, как зрелые команды ведут безопасную разработку и внедряют ИИ на практике;
Swordfish Security обновила фреймворк оценки AI Security
Год назад мы представили Swordfish Secure AI Maturity Model, фреймворк для оценки и развития безопасности ИИ-систем. За это время ИИ-агенты в компаниях получили доступ к инструментам и начали выполнять действия без человека в цикле, а RAG стал стандартом для корпоративных ассистентов. Мы обновили методологию под эту реальность.
Методические рекомендации Банка России по безопасности ИИ на финрынке (№ 3-МР): обзор и что делать на практике
Привет, уважаемые эксперты!На связи Альбина Аскерова, руководитель направления по взаимодействию с регуляторами Swordfish Security. В прошлом обзоре мы разбирали методику ФСТЭК к приказу № 117, а в частности требования к безопасности ИИ в государственных системах и на объектах КИИ. Сегодня рассмотрим Методические рекомендации Банка России от 16.06.2026 № 3-МР по обеспечению информационной безопасности при разработке и применении ИИ на финансовом рынке.
Приглашаем на вебинар «ИИ под контролем: как выявлять угрозы и защищать системы искусственного интеллекта»
С распространением систем ИИ появляются новые классы угроз и уязвимостей, затрагивающие LLM, агентные системы и ML-решения. Такие риски требуют отдельного подхода к анализу и проверке защищенности.23 июня в 14:00 на вебинаре разберём ключевые риски, требования регуляторов и подходы к защите ИИ-решений, а также поделимся практическим опытом проведения аудитов их безопасности.Вы узнаете:какие угрозы актуальны для ML-моделей, LLM и AI-агентов на каждом этапе разработки и внедрения;какие практики и инструменты помогают защищать ИИ-системы;
Чек-лист для оценки безопасности навыков AI-агентов
Навыки AI-агента — это переносимые модули процедурной памяти, включающие инструкции, критерии и ресурсы, которые агент подгружает по мере необходимости для выполнения задач. Примеры
Методика ФСТЭК к приказу № 117: Обзор требований к безопасности ИИ
Привет, уважаемые эксперты! На связи Альбина Аскерова, руководитель направления по взаимодействию с регуляторами Swordfish Security, и сегодня в моём обзоре будет методический документ ФСТЭК России от 12 апреля 2026, определяющий состав и содержание мероприятий и мер по защите информации в информационных системах.
Регуляторика РБПО. Итоги 2025 года
Привет, эксперты!В апреле мы завершили цикл обзорных статей действующей регуляторики РФ, которая прямо или косвенно отсылала бы нас к внедрению процессов и практик РБПО, а также посмотрели на будущие планы регуляторов.Наступил декабрь, пришла пора посмотреть, что произошло за год.С вами по-прежнему Альбина Аскерова, руководитель направления по взаимодействию с регуляторами в Swordfish Security.Спойлер: читать придется немного!
От экспериментов с ИИ до AI-Native: уровни зрелости и архитектура. Часть 2
Всем привет! Это продолжение статьи о трансформации подхода к использованию ИИ — от базового применения к AI-Native.В первой части мы разобрали уровни зрелости искусственного интеллекта, ключевые этапы ИИ-трансформации и классификацию приложений и модальностей LLM.Читать первую частьВо второй части:Эволюция инженерных практикОт Software к Trustware: в процессе непрерывной технологической трансформации AI-Powered Trustware Development Lifecycle
От экспериментов с ИИ до AI-Native: уровни зрелости и архитектура. Часть 1
Привет!С вами Юрий Сергеев, основатель и генеральный партнер в Swordfish Security. Мы строим DevSecOps и развиваем безопасный искусственный интеллект.В этой статье я расскажу, как компании переходят от базового применения ИИ к концепции AI-Native, какие уровни зрелости существуют, как классифицируются приложения и модальности, а также с какими рисками сталкиваются организации при внедрении ИИ.
