BlueSec: открытые соревнования ИИ-агентов по расследованию инцидентов
Привет, Хабр! Меня зовут Андрей Кузнецов, я занимаюсь ML в кибербезе. Наше сообщество FalsePositive разбирает научные статьи, последние разработки в ML. А теперь мы запускаем BlueSec, открытые соревнования, в которых ИИ-агенты расследуют ИБ-инциденты. Агент получает первую улику, сам собирает картину атаки и выносит вердикт. Платформа оценивает, насколько точно и с минимальным количеством тулколлов он это сделал. Если вы работаете с LLM и агентами, то это возможность проверить свои и агентские скиллы в задачах на стыке ML и кибербеза, области, которая, думаю, переживает даже больше изменений, чем разработка.
Windows Incident Response: системный подход. Часть 1
Недавно я писал материал о реагировании на инциденты информационной безопасности в Linux в двух частях (одна, вторая
Индустрия информационной безопасности вступает в третью эпоху
Мы много писали о роли ИИ в аналитике и разработке ПО. Теперь решили выпустить несколько материалов о том, как ИИ меняет кибербезопасность — вместе с нашей Red Team / pentest-командой. Начинаем с перевода The Cybersecurity Industry Is Entering Its Third Era. При этом руководитель нашей Red Team на вопрос о главном изменении последних лет отвечает ещё короче: скорость. Но об этом в следующем материале.Я помню, как на обсуждении архитектуры безопасности можно было целый час спорить об одном: куда поставить межсетевой экран.
Claude во время кибер‑оценок получил доступ к трём реальным организациям
Anthropic проверила 141 006 запусков CTF‑оценок Claude и нашла три инцидента: из‑за ошибочной конфигурации среды у моделей был выход в интернет, хотя системная инструкция утверждала обратное. В шести запусках агенты атаковали реальные системы, принимая их за элементы симуляции.
Архитектурный паттерн «LangGraph, гибридный RAG + Сигнатурный движок»: универсальный граф для потоковых данных
В чем проблема?При обработке больших потоков неструктурированного текста разработчики обычно выбирают один из двух путей:Первый — использовать детерминированные методы. Регулярки, сигнатуры, и подобные инструменты работают быстро. Вот только никак не поймают новые, ранее не описанные паттерны. Путь второй — скармливать сырые данные в ЛЛМ напрямую. В реальности этот подход быстро умирает. Отправлять огромные объемы нефильтрованного текста в языковые модели слишком дорого и медленно.
Поймай jailbreak, если сможешь
Jailbreak в мире ИИ часто представляют как взлом. Будто внутри большой языковой модели ( далее LLM, от англ. large language model) есть замок, к которому кто‑то подбирает отмычку. Щелчок. Замок открыт. Ограничения сняты. Модель стала другой. Красивая картинка, удобная, но почти полностью неверная, поскольку jailbreak — это не взлом в духе «я нашёл секретную кнопку и отключил защиту», ведь никто не перепрошивает модель, находясь в пользовательском чате, не меняет её веса и не ломает её «природу».
Я нашел Sec-Gemini 3 от Google: ИБ-модель уже расследует Log4Shell по логам
Разобрал свежий репозиторий google/sec-gemini, официальный сайт, документацию и короткое демо Sec-Gemini 3. По описанию это эксперементальная платформа с сильным кибербез AI фокусом от Google, но внутри уже видно не "чат по CVE", а платформа для ИБ-задач: расследования, анализ логов, пентест, ревью кода, генерация отчетов.Коротко, что я вытащил из источников:есть Python SDK, TypeScript SDK, CLI и web component;
Цифровая безопасность компании начинается с повседневных действий сотрудников
Привет! Я Анна Корчикова, автор медиа «вАЙТИ». Недавно мы провели исследование цифровой грамотности сотрудников в крупных российских компаниях. Когда начали разбирать результаты, стало очевидно: многие повседневные цифровые привычки сотрудников создают для бизнеса реальные риски. В этой статье делюсь основными выводами исследования и тем, на что компаниям стоит обратить внимание уже сейчас. Это интересно!
Как пчёлы, муравьи и рыбы привели нас к мультиагентному ИИ — и почему его так трудно защитить
Пчёлы. Муравьи. Стаи рыб.Искусственный интеллект, автономные автомобили, кибербезопасность, распределённые атаки.
