AI как новая поверхность атаки: реальные инциденты, мошенничество и уязвимости агентной эпохи
КороткоAI стал поверхностью атаки там, где модель получает не только текст, но и данные, инструменты, права и доверенный контекст. Но вроде как агент без всего этого бесполезено...?)Самые сильные публичные кейсы сегодня не про “модель сама нашла 0day”, а про деньги, утечки, токены, рабочие базы, расширения браузера, агентные действия и фишинг под видом AI-сервисов.В статье кейсы ранжируются по наблюдаемому ущербу: прямые потери и утечки выше исследовательских PoC.
Я нашел Sec-Gemini 3 от Google: ИБ-модель уже расследует Log4Shell по логам
Разобрал свежий репозиторий google/sec-gemini, официальный сайт, документацию и короткое демо Sec-Gemini 3. По описанию это эксперементальная платформа с сильным кибербез AI фокусом от Google, но внутри уже видно не "чат по CVE", а платформа для ИБ-задач: расследования, анализ логов, пентест, ревью кода, генерация отчетов.Коротко, что я вытащил из источников:есть Python SDK, TypeScript SDK, CLI и web component;
Эксперты убедили ИИ, что 2+2 не равно 4
Компания кибербезопасности LayerX разработала схему атаки BioShocking в формате игры для обмана искусственного интеллекта. В итоге исследователям удалось убедить ИИ, что 2+2 не равно 4.
Claude Code втихую метит запросы. Так Anthropic ищет тех, кто учит на нём свои модели
Мы даём кодовым агентам полный доступ к машине: файлы, шелл, git. Значит, сам бинарник должен быть предсказуемым, без сюрпризов. У Claude Code сюрприз есть: он незаметно помечает часть запросов. Судя по логике, цель одна — вычислить тех, кто гоняет Claude, чтобы обучать на его ответах свою модель. Это называется дистилляцией, и для любой AI-компании это прямая кража.Что прячется в промптеВ системный контекст уходит обычная строка с датой:Today’s date is 2026-06-30.
Как не нарваться на prompt-injection или зачем нам проверять скиллы?
В прошлой статье говорили про использования LLM хакерами, и обещал как раз продолжение, как защищить свое рабочее пространство, ну в общем, к делу :)
Выпуск дистрибутива Parrot OS 7.3 для этичного хакинга с ядром Linux 7.0
В конце июня 2026 года компания Parrot Security представила
Fable и Mythos официально возвращаются сегодня — факты из поста Anthropic
Антопики написали большой пост, в котором много воды. Но если выделить главное, то- Официально подтверждено, что именно специалисты из Amazon отправили инфу о джейлбрейке Fable в правительство- Антропики хотя и не уточняют, что именно делал этот джейлбрейк, но говорят что даже Haiku 4.5 мог бы сделать эксплоит для подобных уязвимостей (но только если ему дать данные о самой уязвимости), а найти уязвимость сейчас могут Opus 4.8, GPT-5.5, and Kimi K2.7 - то есть это не было уникальной силой Fable- Они продолжают настаивать, что джейлбрейк был очень узкий, поэтому его
Почему вы не видите, что на самом деле происходит между моделью и MCP-сервером
Недавно Claude уверенно пересказал мне большой документ, хотя прочитал только его начало.Я подключил mcp-server-fetch
Proton представила новую версию ИИ‑ассистента Lumo 2.0
Компания Proton анонсировала версию 2.0 голосового помощника Lumo AI. Она предлагает «новую архитектуру» и такие функции, как логическое мышление, многомодальная обработка изображений и улучшенный веб-поиск.
Обзор выставки «Ключ к доверию. Безопасность в эпоху высоких технологий»
ВступлениеПривет, Хабр! В Музее криптографии начала работу интерактивная выставка «Ключ к доверию. Безопасность в эпоху высоких технологий», организованная при экспертной поддержке компании по информационной безопасности «Бастион». Выставка открылась 27 июня и будет идти до 22 ноября 2026 года. Однако для представителей СМИ и IT-сферы был предпоказ 25 июня. И вам покорный слуга был на предпоказе. Экскурсию для СМИ проводили куратор музея и специалист компании «Бастион». Куратор отвечал за историческую часть, а кибербез-эксперт — за кейсы кибератак. Ну а я расскажу, что из себя представляла выставка. Приятного чтения!
