Локально ≠ безопасно: как скачанные ИИ-модели и LoRA-адаптеры крадут пароли, ключи и деньги
ПредисловиеСейчас я работаю с локальными моделями и пишу мультимодальную ИИ-студию с распределённой сетью вычислений. В процессе я всё чаще сталкиваюсь с вопросами безопасности: чем больше моделей, адаптеров и узлов оказывается в контуре, тем меньше хочется доверять им «по умолчанию». Некоторые вещи, которые я увидел и о которых читал в исследованиях, касаются не абстрактных угроз, а вполне конкретных сценариев — кражи паролей, ключей, денег и данных. Я не претендую на исчерпывающий анализ, но хочу поделиться своими мыслями и напомнить, почему локальный запуск без изоляции — это риск.
Как я учил ИИ-агента работать на первой линии SOC: четыре этапа BlueSec1 глазами участника
Привет, Хабр. Девять лет я живу в мире управления уязвимостями, а не в центре мониторинга. Тревоги по работе не разбираю, плейбуки реагирования не пишу, справедливости ради конечно, я примерно 4 года назад занимался продуктом класса SIEM. И вот осенью я записался на соревнование, где надо было собрать ИИ-агента, который разбирает тревоги вместо аналитика первой линии.Коллеги-организаторы уже рассказали про соревнование со своей стороны - вот их статья на Хабре
BlueSec: an open competition where AI agents investigate security incidents
Hi all! I'm Andrey Kuznetsov, and I work on ML in cybersecurity. In our community, FalsePositive, we break down research papers and keep up with what's new in ML. Now we're launching BlueSec, an open competition where AI agents investigate security incidents. Each agent starts with a single piece of evidence, reconstructs the attack on its own and delivers a verdict. The platform scores it on accuracy and how few tool calls it needs. If you work with LLMs and agents, this is a chance to test your skills and your agent's on problems at the intersection of ML and cybersecurity, a field that I think is undergoing even more change than software development. The competition runs online from September 25 to October 10, and you can join from anywhere in the world. The final will be held in Moscow and St. Petersburg, both on-site and online. Sign up on the website.In this post I'll cover:Why we built this kind of competition.How the tasks and scoring work.Where to start if you've never built an agent or investigated an incident.
Positive Technologies покажет новые технологии и ИИ‑разработки на Positive Security Day 2026
В Москве 15 и 16 октября пройдет Positive Security Day 2026 — ключевая технологическая конференция Positive Technologies. Компания представит новые продукты и разработки, покажет, как ИИ уже меняет атаку и защиту, и даст участникам возможность проверить технологии на практике.
BlueSec: открытые соревнования ИИ-агентов по расследованию инцидентов
Привет, Хабр! Меня зовут Андрей Кузнецов, я занимаюсь ML в кибербезе. Наше сообщество FalsePositive разбирает научные статьи, последние разработки в ML. А теперь мы запускаем BlueSec, открытые соревнования, в которых ИИ-агенты расследуют ИБ-инциденты. Агент получает первую улику, сам собирает картину атаки и выносит вердикт. Платформа оценивает, насколько точно и с минимальным количеством тулколлов он это сделал. Если вы работаете с LLM и агентами, то это возможность проверить свои и агентские скиллы в задачах на стыке ML и кибербеза, области, которая, думаю, переживает даже больше изменений, чем разработка.
Windows Incident Response: системный подход. Часть 1
Недавно я писал материал о реагировании на инциденты информационной безопасности в Linux в двух частях (одна, вторая
Индустрия информационной безопасности вступает в третью эпоху
Мы много писали о роли ИИ в аналитике и разработке ПО. Теперь решили выпустить несколько материалов о том, как ИИ меняет кибербезопасность — вместе с нашей Red Team / pentest-командой. Начинаем с перевода The Cybersecurity Industry Is Entering Its Third Era. При этом руководитель нашей Red Team на вопрос о главном изменении последних лет отвечает ещё короче: скорость. Но об этом в следующем материале.Я помню, как на обсуждении архитектуры безопасности можно было целый час спорить об одном: куда поставить межсетевой экран.
Claude во время кибер‑оценок получил доступ к трём реальным организациям
Anthropic проверила 141 006 запусков CTF‑оценок Claude и нашла три инцидента: из‑за ошибочной конфигурации среды у моделей был выход в интернет, хотя системная инструкция утверждала обратное. В шести запусках агенты атаковали реальные системы, принимая их за элементы симуляции.
Архитектурный паттерн «LangGraph, гибридный RAG + Сигнатурный движок»: универсальный граф для потоковых данных
В чем проблема?При обработке больших потоков неструктурированного текста разработчики обычно выбирают один из двух путей:Первый — использовать детерминированные методы. Регулярки, сигнатуры, и подобные инструменты работают быстро. Вот только никак не поймают новые, ранее не описанные паттерны. Путь второй — скармливать сырые данные в ЛЛМ напрямую. В реальности этот подход быстро умирает. Отправлять огромные объемы нефильтрованного текста в языковые модели слишком дорого и медленно.
