Искусственный интеллект меняет кибербезопасность. Что показывают исследования?
В последнее время искусственный интеллект все чаще упоминается в обсуждениях информационной безопасности, причем не только как инструмент обнаружения угроз или автоматизации разработки. Я вижу, что все больше внимания уделяется тому, как большие языковые модели и автономные ИИ-агенты могут использоваться для поиска уязвимостей, подготовки атак и эксплуатации недостатков программных систем.
Вышла Gemini 4 Carbon: поиск уязвимостей, кодинг и работа несколько дней подряд
Google DeepMind представила Gemini 4 Carbon — новую флагманскую модель с упором на кибербезопасность, программирование и длительные агентные задачи. По заявлению компании, Carbon получила 59 баллов в Artificial Analysis Intelligence Index v5.0 и вышла на первое место рейтинга.Carbon рассчитана на задачи, которые не заканчиваются одним запросом. Во внутренних испытаниях Google модель работала автономно по несколько дней: разбиралась в больших кодовых базах, искала причины ошибок, исправляла баги и продолжала работу после неудачных попыток.
Фаззер против ИИ-агента на V8: 37 и 45 уязвимостей за полгода, общих — четверть
КраткоМы в Project Zero сравнили два автоматических инструмента, которыми Google постоянно ищет уязвимости в V8, JavaScript-движке Chrome. Fuzzilli — генеративный фаззер для JavaScript-движков, BigSleep
Atlas: а что, если все законы природы можно исследовать в едином многомерном пространстве?
Представьте пространство, в котором можно не только восстановить любой известный закон, но и обнаружить математические закономерности, о существовании которых мы ещё не подозреваем.Пространство, где физика, химия, биология, астрономия и математика перестают быть отдельными областями знаний и становятся взаимосвязанными частями одной исследуемой структуры.
Я запустил 100 ИИ‑агентов, чтобы они меня взломали. Пять раз у них получилось
В эти выходные я поручил примерно сотне ИИ‑агентов, развёрнутых на собственной инфраструктуре, попытаться взломать любые из моих онлайн‑аккаунтов. За пять часов эксперимента они:Взломали 3 аккаунта, воспользовавшись уязвимостями в ПО.Взломали ещё 2 аккаунта перебором паролей.Предприняли 16 попыток атак с использованием социальной инженерии.Нашли несколько «конфиденциальных» сведений обо мне и перепроверили их по нескольким независимым источникам.
Google приостановила программу вознаграждения за баги в опенсорс‑проектах
Google приостановила действие своей программы вознаграждения за поиск уязвимостей (bug bounty) в проектах с открытым исходным кодом до следующего года. Компания объяснила этот шаг «значительным ростом» числа заявок, сгенерированных искусственным интеллектом.
Z.ai выпустила GLM-5.3: прирост за счет масштабирования RL и рост кибербзопасности
Z.ai представила GLM-5.3 — новую версию своей флагманской модели. Возможности выросли за счет масштабирования post-training и reinforcement learning: базовая модель при этом осталась той же, что использовалась в GLM-5.2.Главный акцент разработчики сделали на обучении на реальных задачах. RL использовался не только для улучшения ответов модели, но и для практических инженерных сценариев, включая оптимизацию самого процесса тренировки. По словам команды Z.ai
Cisco запускает Antares — недорогие ИИ‑модели для поиска известных уязвимостей в исходном коде
Компания Cisco запустила
Anthropic выпустили плагин Claude Security для многоагентного поиска уязвимостей
Anthropic сделали Claude Security доступным в виде официального плагина для Claude Code. Он запускает многоагентное сканирование кодовой базы непосредственно в локальной сессии и доступен пользователям платных тарифов.Claude Security изучает архитектуру проекта, формирует модель угроз и распределяет поиск уязвимостей между несколькими агентами. Каждая находка проходит независимую проверку перед добавлением в итоговый отчёт.
