Информационная безопасность. - страница 54

Посмотрел, как Mimolet обращается с данными и нежелательным контентом: два замечания и семь удачных решений

Когда сервис знакомств рассказывает о безопасности, текст обычно строится по одному шаблону: данные надежно защищены, модерация работает круглосуточно, современные алгоритмы следят за порядком. Звучит успокаивающе, но почти ничего не объясняет. Гораздо интереснее посмотреть не на обещания, а на конкретные механизмы. Что происходит с фотографией после загрузки? Где находится основной серверный контур? Может ли пользователь пожаловаться без подписки? Нужно ли сообщать собеседнику номер телефона для звонка? И что именно скрывается за словами об ИИ-модерации?

продолжить чтение

Техника безопасности при работе с AI

В современном мире нас уже не удивляет необходимость мыть руки, соблюдать ПДД или правила техники безопасности на работе. Такие правила есть почти везде.Похоже, пора внедрять такие же правила и для работы с LLM и AI в целом.Классификация инцидентовДавайте посмотрим на известные риски и попробуем сформулировать правила безопасности.КатегорияПримерОсновной рискАвтономные атакиJadePufferИИ выполняет полный цикл атакиСоциальная инженерия через ИИMeta Instagram hack

продолжить чтение

Apple попросила бывших сотрудников из OpenAI сохранять потенциально важные документы и сообщения

Apple направила юридические уведомления с требованием сохранить документы и переписку десяткам своих бывших сотрудников, перешедших в OpenAI. Эти меры принимаются в рамках продолжающегося судебного разбирательства, касающегося незаконного использования коммерческой тайны. 

продолжить чтение

Innostage AIDR включен в реестр российского ПО Минцифры

Продукт Innostage AIDR «Защита ИИ» включен в Единый реестр российского программного обеспечения Минцифры России. Innostage AIDR предназначен для защиты корпоративных ИИ-сервисов на базе больших языковых моделей от атак и утечек данных на этапе эксплуатации. Продукт отнесен к классу средств автоматизации процессов информационной безопасности.

продолжить чтение

Обзор изменений в законодательстве за июнь 2026 года

В обзоре изменений за июнь 2026 года рассмотрим следующие темы:1. Критическая информационная инфраструктураРассмотрим официально опубликованные отраслевые особенности категорирования объектов КИИ в области оборонной промышленности.2. Финансовые организацииРазберем методические рекомендации Банка России по обеспечению ИБ при разработке и применении ИИ на финансовом рынке.3. ИноеРассмотрим официально опубликованный Федеральный закон о технологической платформе создания, развития и эксплуатации ИС.

продолжить чтение

Коллега по имени Себастьян: зачем Microsoft сделала своего OpenClaw

продолжить чтение

Южная Корея запустит универсальный базовый чат-бот с ИИ

Правительство Южной Кореи объявило тендер на поиск подрядчиков для создания универсального общедоступного чат-бота и ИИ-агента для взаимодействия с государственными службами.

продолжить чтение

«Яндекс» подтвердил безопасность всех генеративных моделей семейства Alice AI

продолжить чтение

Microsoft исправила ошибку в видеоигре Age of Empires II

Microsoft исправила множество уязвимостей безопасности в своих продуктах благодаря использованию искусственного интеллекта, который помог корпорации и сторонним исследователям выявлять ошибки. Среди исправленных была уязвимость в обновлённой версии классической стратегии Age of Empires II.

продолжить чтение

False positive под небом цвета телевизора, настроенного на мертвый канал

LLM-триаж SAST, который не стыдно пустить в pipeline AppSec-инженер перед терминалами ночью

продолжить чтение