В Пенсильвании Character AI судят за имитацию ИИ работы врача-психиатра
Власти Пенсильвании подали иск против компании Character.AI, утверждая, что один из чат-ботов компании выдавал себя за психиатра, нарушая правила лицензирования медицинской деятельности штата.
HiveTraceRed vs garak: тестируем безопасность языковых моделей на русском и английском
КраткоНаша команда сравнила два открытых инструмента для проверки языковых моделей (LLM) на устойчивость к атакам: российский HiveTraceRed от HiveTrace/ITMO и международный garak от NVIDIA. Прогнали обоих на одинаковых задачах против двух открытых моделей (qwen2.5:3b и llama3.2:3b) на английском и русском языках.Главное:На английском работают оба
Chrome может незаметно скачать на диск локальную ИИ-модель Gemini Nano на 4GB
Об этом написал автор That Privacy Guy, а потом тему начали обсуждать на Hacker News и в других сообществах. В профиле Chrome может появиться папка:AppData/Local/Google/Chrome/User Data/OptGuideOnDeviceModel/Внутри может лежать файл weights.bin размером около 3–4 ГБ. Это вес локальной модели, которую Chrome использует для on-device AI-функций: Prompt API, Gemini Nano и некоторых защитных механизмов вроде анализа подозрительных страниц.Это не значит, что Google “украл SSD
Google предлагает до $1,5 млн за обнаружение некоторых уязвимостей в Android
Google пересматривает свои программы вознаграждения за обнаружение уязвимостей в Android и Chrome. Компания предлагает вознаграждение до $1,5 млн за выявление самых сложных эксплойтов, одновременно сокращая выплаты за уязвимости, которые стало проще обнаруживать при помощи искусственного интеллекта.
Один ИИнженер — десять рук: как мы исследовали LLM в AppSec
Всем привет, на связи Solar appScreener!В этой статье расскажем о нашем опыте использования ИИ в нашем собственном продукте.
Пентест 2026: как войти в профессию
В 2026 году рынок кибербезопасности окончательно разделился на два лагеря. В одном — энтузиасты, которые верят, что AI заменит пентестеров «через пару лет». В другом — профессионалы, которые спокойно работают, потому что понимают: автоматизация не отменяет человеческий фактор, а лишь смещает фокус. Собственно, подобное разделение можно встретить и в других направлениях ИБ и ИТ, но сегодня мы будем говорить именно про пентест.Реальность 2026 года
ИИ против ИИ: кибербезопасность в эпоху мгновенного ПО
Искусственный интеллект стремительно меняет то, как программы пишутся, разворачиваются и используются. Тенденции указывают на будущее, в котором ИИ сможет быстро и легко создавать программы под заказ — назовём такое ПО мгновенным (Instant software).
LLM-пентест в 2026: что изменилось за год
Привет, Хабр! Согласно отчёту Trend Micro TrendAI за прошлый год число CVE во всей AI-экосистеме почти удвоилось: с 419 до 756. Цифры стартовые, но мысль простая. Тестировать нейросетевые сервисы как обычные веб-приложения в 2026-м уже недостаточно. И вот почему.В этой статье разберу:что появилось нового в OWASP LLM Top 10 (версия 2025);какие атаки реально работают в проде, а какие так и остались в arXiv;чем тестируют LLM сейчас (open-source стек плюс российские игроки);плюс короткий практический playbook на четыре уровня.OWASP LLM Top 10 2025: что новое
Как знакомый знакомого сделал 1,5 млн рублей на фейковых клиентах банка
Пример сгенерированного "котоклиента"
