Shadow AI в CI-CD: почему ИИ-агенты становятся угрозой
Привет, сегодня решила поделиться переводом
Anthropic сообщила подробности о кампаниях по дистилляции моделей, проводимых китайскими Alibaba, Moonshot AI и DeepSeek
Anthropic сообщила подробности о кампаниях по дистилляции моделей американских разработчиков со стороны китайских компаний в сфере искусственного интеллекта. В последние месяцы китайские разработчики нарастили усилия в этой области, что стало поводом для коллективных обвинений, выдвинутых спецслужбами США.
Искусственный интеллект и ФСТЭК России: действующие и проектируемые документы по состоянию на 01.09.2026
После непродолжительных поисков в нормативных недрах обнаружились следующие документы за авторством ФСТЭК России, в которых так или иначе упоминается «искусственный интеллект»:Методический документ «Методика анализа защищенности информационных систем», утв. ФСТЭК России 25.11.2025 (ссылка)Методический документ «Состав и содержание мероприятий и мер по защите информации, содержащейся в информационных системах», утв. ФСТЭК России 12.04.2026 (ссылка)
Конференция «СисАдмин 2026»: о технологиях, людях и реальной работе ИТ
9 октября в московском кластере «Ломоносов» пройдет СисАдмин 2026
Несколько спецслужб США выдвинули коллективные обвинения в адрес китайских ИИ‑компаний
Агентство по кибербезопасности и защите инфраструктуры США (CISA) в сотрудничестве с Агентством национальной безопасности и Федеральным бюро расследований выпустило совместное предупреждение о кибербезопасности в области дистилляции знаний. Федеральные агентства указали, что китайские компании в сфере искусственного интеллекта целенаправленно атакуют своих американских конкурентов, чтобы систематически извлекать языковые модели в рамках кампаний по дистилляции знаний.
Как я не выучил программирование, поймал шифровальщика и собрал AI-платформу
Я просто ковырялся с нейросетями. Делал для себя небольшое приложение, собирал агентов в n8n и пытался понять, насколько далеко можно зайти, если описывать желаемый результат словами, а код поручить модели.Потом несколько случайных вещей совпали. Меня достало вручную менять промпты в n8n. Другу понадобилась напоминалка в Telegram. Я впервые попробовал Telegram Mini Apps. А Gemini за минуту сделала мне простую HTML-игру, и я подумал: стоп, а ведь теперь я могу собирать то, что раньше даже не рискнул бы начать.
Исследование: ИИ‑агенты ChatGPT могли извлекать данные из одной учётной записи и передавать их в другую
Компания Check Point Research обнаружила скрытый канал, позволяющий сеансу ChatGPT под одной учётной записью отправлять задачи в совершенно отдельный сеанс другого аккаунта. При этом в беседе обоих пользователей не наблюдалось ничего необычного.
ПДн, 152-ФЗ и LLM
«Сделай мне аналитику по этим пяти резюме, вот они» — с такого сообщения могла начаться история, из-за которой я вообще стал бы разбираться в обезличивании. Думаю некоторые HR-специалисты крупных компаний смело вставляют в ChatGPT пять резюме целиком: с паспортами, адресами, СНИЛС. Для него это была рутина, экономия часа работы. Для компании — передача персональных данных пяти человек неизвестно куда, без основания, без уведомления, в сервис, чьи серверы стоят за пределами России. Формально — сразу несколько нарушений 152-ФЗ. Все чуть сложнее или проще но в целом посыл был примерно такой.
Как мы измеряем точность детекции ПДн: pii-bench, golden-выборка и честные метрики
Когда вендор защиты данных пишет на сайте «точность детекции 99%», возникает ровно один вопрос: как это измерено? Без методики цифра не значит ничего — «99%» может означать честный span-level F1 на внешнем бенчмарке, а может — «в 99 из 100 сообщений сканер что-то нашёл». Это разные вещи, и разница между ними — это пропущенные паспорта в проде.
Американца приговорили к 15 годам тюрьмы за шантаж женщин с помощью сгенерированных порнографических видео
Жителя американского штата Огайо Джеймса Стралера приговорили к 15 годам тюремного заключения за изготовление и распространение детской порнографии, шантаж с использованием сгенерированных видео, преследование в сети многочисленных жертв и другие преступления.Согласно материалам дела, для создания откровенных сексуальных видео и изображений своих жертв 37-летний мужчина использовал более 100 моделей искусственного интеллекта и свыше 24 ИИ‑платформ.
