LLM-пентест в 2026: что изменилось за год
Привет, Хабр! Согласно отчёту Trend Micro TrendAI за прошлый год число CVE во всей AI-экосистеме почти удвоилось: с 419 до 756. Цифры стартовые, но мысль простая. Тестировать нейросетевые сервисы как обычные веб-приложения в 2026-м уже недостаточно. И вот почему.В этой статье разберу:что появилось нового в OWASP LLM Top 10 (версия 2025);какие атаки реально работают в проде, а какие так и остались в arXiv;чем тестируют LLM сейчас (open-source стек плюс российские игроки);плюс короткий практический playbook на четыре уровня.OWASP LLM Top 10 2025: что новое
Как знакомый знакомого сделал 1,5 млн рублей на фейковых клиентах банка
Пример сгенерированного "котоклиента"
Нательные камеры и служебные электрошокеры Axon с включённым Bluetooth выдают реальное местоположение владельца
Нательные камеры и служебные электрошокеры Axon с включённым Bluetooth способны выдавать геолокацию владельца в режиме реального времени. Подобная уязвимость позволяет отслеживать реальное местоположение тысяч австралийских полицейских через приложение для смартфона или ноутбука, сообщил местный телеканал ABC.
Служба здравоохранения Великобритании закроет репозитории из-за активности ИИ в ИБ
Теренс Иден, участвовавший в продвижения открытых стандартов и открытого ПО в госучреждениях Великобритании, сообщил, что Национальная служба здравоохранения страны (NHS) готовится закрыть почти все свои репозитории с открытым исходным кодом в ответ на то, что инструменты LLM, такие как Mythos от Anthropic, всё активнее и успешнее находят уязвимости безопасности.
Поведение как новый критерий идентификации пользователя. Кибербезопасность в эпоху ИИ
Мы живём в эпоху смены парадигмы взаимодействия человека с сетевыми системами, смены того, как люди подтверждают то, что они те, за кого себя выдают. Главные вопросы, которые всегда задавали пользователям, звучали так: «Что вы знаете?» (пароль, PIN-код, девичья фамилия матери), или «Как вы выглядите?» (Face ID, отпечатки пальцев). Теперь же на первый план выходит такой вопрос: «Как вы себя ведёте?».
Когда pull request выглядит нормальным, но ревью на нём всё равно зависает
Поводом для этого проекта был не абстрактный интерес к AI и не желание сделать ещё один инструмент для ревью.На одном из рабочих проектов довольно быстро стало видно, что на pull request уже нельзя смотреть по старой модели. Команда начала двигаться в сторону AI-first разработки. В продукт стало прилетать больше изменений от людей с очень разной глубиной контекста: часть работала рядом с продуктом, часть приходила из смежных команд, часть собиралась с активной помощью AI. Скорость изменений выросла. А вот глубина понимания конкретной зоны у автора PR часто, наоборот, стала ниже.
Thoughtworks Technology Radar Vol. 34: что в тренде и каким становится software engineering после агентного поворота
Каждая новая волна обсуждения искусственного интеллекта сначала вызывает эйфорию, а затем приводит к более трезвой оценке последствий и накопленных издержек.Сначала мы видим эффектные демонстрации: агент пишет код, LLM суммирует требования, инструменты становятся «умнее», а интеграции будто бы исчезают за слоем новых протоколов и интерфейсов. Затем приходит рабочая реальность: инструкции разрастаются, права доступа оказываются слишком широкими, code review превращается в разбор чужих решений, а качество системы начинает определяться не только моделью, но и всей средой вокруг неё.Именно поэтому
