Посмотрел, как Mimolet обращается с данными и нежелательным контентом: два замечания и семь удачных решений
Когда сервис знакомств рассказывает о безопасности, текст обычно строится по одному шаблону: данные надежно защищены, модерация работает круглосуточно, современные алгоритмы следят за порядком. Звучит успокаивающе, но почти ничего не объясняет. Гораздо интереснее посмотреть не на обещания, а на конкретные механизмы. Что происходит с фотографией после загрузки? Где находится основной серверный контур? Может ли пользователь пожаловаться без подписки? Нужно ли сообщать собеседнику номер телефона для звонка? И что именно скрывается за словами об ИИ-модерации?
Техника безопасности при работе с AI
В современном мире нас уже не удивляет необходимость мыть руки, соблюдать ПДД или правила техники безопасности на работе. Такие правила есть почти везде.Похоже, пора внедрять такие же правила и для работы с LLM и AI в целом.Классификация инцидентовДавайте посмотрим на известные риски и попробуем сформулировать правила безопасности.КатегорияПримерОсновной рискАвтономные атакиJadePufferИИ выполняет полный цикл атакиСоциальная инженерия через ИИMeta Instagram hack
Apple попросила бывших сотрудников из OpenAI сохранять потенциально важные документы и сообщения
Apple направила юридические уведомления с требованием сохранить документы и переписку десяткам своих бывших сотрудников, перешедших в OpenAI. Эти меры принимаются в рамках продолжающегося судебного разбирательства, касающегося незаконного использования коммерческой тайны.
Innostage AIDR включен в реестр российского ПО Минцифры
Продукт Innostage AIDR «Защита ИИ» включен в Единый реестр российского программного обеспечения Минцифры России. Innostage AIDR предназначен для защиты корпоративных ИИ-сервисов на базе больших языковых моделей от атак и утечек данных на этапе эксплуатации. Продукт отнесен к классу средств автоматизации процессов информационной безопасности.
Обзор изменений в законодательстве за июнь 2026 года
В обзоре изменений за июнь 2026 года рассмотрим следующие темы:1. Критическая информационная инфраструктураРассмотрим официально опубликованные отраслевые особенности категорирования объектов КИИ в области оборонной промышленности.2. Финансовые организацииРазберем методические рекомендации Банка России по обеспечению ИБ при разработке и применении ИИ на финансовом рынке.3. ИноеРассмотрим официально опубликованный Федеральный закон о технологической платформе создания, развития и эксплуатации ИС.
Южная Корея запустит универсальный базовый чат-бот с ИИ
Правительство Южной Кореи объявило тендер на поиск подрядчиков для создания универсального общедоступного чат-бота и ИИ-агента для взаимодействия с государственными службами.
Microsoft исправила ошибку в видеоигре Age of Empires II
Microsoft исправила множество уязвимостей безопасности в своих продуктах благодаря использованию искусственного интеллекта, который помог корпорации и сторонним исследователям выявлять ошибки. Среди исправленных была уязвимость в обновлённой версии классической стратегии Age of Empires II.
False positive под небом цвета телевизора, настроенного на мертвый канал
LLM-триаж SAST, который не стыдно пустить в pipeline AppSec-инженер перед терминалами ночью

