Ваш ИИ ошибался, ошибается и будет ошибаться
Ваш ИИ-агент только что выдал строчку. И она выглядит… подозрительно? Указатель без проверки на NULL, сериализация через pickle
GenAI и кибербезопасность в e-commerce: как защитить бизнес и не создать новые уязвимости
Искусственный интеллект всё активнее встраивается в повседневные бизнес-процессы: компании используют его для автоматизации операций, аналитики, работы с клиентами и оптимизации внутренних процессов. Но вместе с новыми возможностями AI приносит и новые вызовы для кибербезопасности. Чем глубже интеллектуальные системы интегрируются в ИТ-ландшафт компании, тем больше появляется потенциальных точек отказа, уязвимостей и сценариев для атак.
Методика ФСТЭК к приказу № 117: Обзор требований к безопасности ИИ
Привет, уважаемые эксперты! На связи Альбина Аскерова, руководитель направления по взаимодействию с регуляторами Swordfish Security, и сегодня в моём обзоре будет методический документ ФСТЭК России от 12 апреля 2026, определяющий состав и содержание мероприятий и мер по защите информации в информационных системах.
В Пенсильвании Character AI судят за имитацию ИИ работы врача-психиатра
Власти Пенсильвании подали иск против компании Character.AI, утверждая, что один из чат-ботов компании выдавал себя за психиатра, нарушая правила лицензирования медицинской деятельности штата.
HiveTraceRed vs garak: тестируем безопасность языковых моделей на русском и английском
КраткоНаша команда сравнила два открытых инструмента для проверки языковых моделей (LLM) на устойчивость к атакам: российский HiveTraceRed от HiveTrace/ITMO и международный garak от NVIDIA. Прогнали обоих на одинаковых задачах против двух открытых моделей (qwen2.5:3b и llama3.2:3b) на английском и русском языках.Главное:На английском работают оба
Chrome может незаметно скачать на диск локальную ИИ-модель Gemini Nano на 4GB
Об этом написал автор That Privacy Guy, а потом тему начали обсуждать на Hacker News и в других сообществах. В профиле Chrome может появиться папка:AppData/Local/Google/Chrome/User Data/OptGuideOnDeviceModel/Внутри может лежать файл weights.bin размером около 3–4 ГБ. Это вес локальной модели, которую Chrome использует для on-device AI-функций: Prompt API, Gemini Nano и некоторых защитных механизмов вроде анализа подозрительных страниц.Это не значит, что Google “украл SSD
Google предлагает до $1,5 млн за обнаружение некоторых уязвимостей в Android
Google пересматривает свои программы вознаграждения за обнаружение уязвимостей в Android и Chrome. Компания предлагает вознаграждение до $1,5 млн за выявление самых сложных эксплойтов, одновременно сокращая выплаты за уязвимости, которые стало проще обнаруживать при помощи искусственного интеллекта.
Один ИИнженер — десять рук: как мы исследовали LLM в AppSec
Всем привет, на связи Solar appScreener!В этой статье расскажем о нашем опыте использования ИИ в нашем собственном продукте.
Пентест 2026: как войти в профессию
В 2026 году рынок кибербезопасности окончательно разделился на два лагеря. В одном — энтузиасты, которые верят, что AI заменит пентестеров «через пару лет». В другом — профессионалы, которые спокойно работают, потому что понимают: автоматизация не отменяет человеческий фактор, а лишь смещает фокус. Собственно, подобное разделение можно встретить и в других направлениях ИБ и ИТ, но сегодня мы будем говорить именно про пентест.Реальность 2026 года
ИИ против ИИ: кибербезопасность в эпоху мгновенного ПО
Искусственный интеллект стремительно меняет то, как программы пишутся, разворачиваются и используются. Тенденции указывают на будущее, в котором ИИ сможет быстро и легко создавать программы под заказ — назовём такое ПО мгновенным (Instant software).
