ИИ-агент получил власть над компьютером: что делать разработчику. Разбор ошибок автоматизации: sandbox escape
В эпоху искусственного интеллекта враг ближе, чем кажется. Современные ИИ-помощники (Claude Code или Cursor) — уже не просто чат-боты. Чтобы помогать программистам, им дают реальные инструменты: право создавать файлы, открывать браузер и запускать системные команды. Чтобы они не навредили компьютеру, их сажают в изолированный виртуальный контейнер.
Как Mozilla нашли 271 уязвимость в Firefox с помощью Claude Mythos
Две недели назад мы объявили, что с помощью Claude Mythos Preview и других AI-моделей нашли и исправили рекордное количество скрытых уязвимостей в Firefox. В этом посте — подробности о подходе, результатах и советы для других проектов, которые хотят применять эти техники.Баги резко стали качественнееЕщё несколько месяцев назад AI-сгенерированные отчёты о безопасности в open source были преимущественно мусором. Отвечать на отчёты, которые выглядят правдоподобно, но ошибочны, — асимметричная нагрузка: сгенерировать «проблему» дёшево, а разобраться в ней — дорого.
