AI security на практике: атаки и базовые подходы к защите
Привет, Хабр! Я Александр Лебедев, старший разработчик систем искусственного интеллекта в Innostage. В этой статье расскажу о нескольких интересных кейсах атак на ИИ-сервисы и базовых способах защиты о них. В конце попробуем запустить свой сервис и провести на нем несколько простых атак, которые могут обернуться серьезными потерями для компаний. А также разберемся, как от них защититься.Почему это важно: немного цифрИнтеграция AI-сервисов остается одной из самых хайповых тем в ИТ в последние пару лет. Искусственный интеллект внедряют компании из разных отраслей, в разные процессы и под самые разные задачи.
27 ноября — вебинар «Три столпа умной DLP-системы: как сохранить репутацию, деньги и нервы»
Привет!Продолжаем цикл полезных вебинаров, послезавтра, 27 ноября, расскажем о трёх китах современной DLP (данные, политики, события) на примере нашего InfoWatch Traffic Monitor. Разберем каждый столп до технологий и инструментов — и расскажем, как InfoWatch Traffic Monitor помогает в сохранении репутации, денег и нервов.
Microsoft и GitHub представили инструмент для устранения уязвимостей с помощью ИИ
Microsoft и GitHub объединили аналитику времени выполнения с рабочими процессами разработки, чтобы использовать ИИ для приоритизации угроз и автоматизации исправлений. Нативная интеграция между Microsoft Defender for Cloud и GitHub Advanced Security позволит решить проблему «многолетней накопившейся задолженности по безопасности в корпоративных кодовых базах».
Microsoft: работа ИИ-функции Copilot в Windows сопряжена с рисками кражи данных
Инструмент Copilot Actions в Windows 11 уже доступен в сборках Insider, но требует для настройки прав администратора. При этом Microsoft признаёт, что работа функции может вызывать «новые риски безопасности».
Avast сделал общедоступной ИИ-защиту от мошенничества
Компания Avast представила Scam Guardian — новое решение на базе искусственного интеллекта, интегрированное в бесплатную версию антивируса.
Washington Post: разговоры с ChatGPT показывают наличие эхо-камер и опасных медрекомендаций
В Washington Post проанализировали 47 тысяч бесед с чат-ботом OpenAI и обнаружили, что пользователи в подавляющем большинстве обращаются к ИИ за советом и общением, а не за задачами, связанными с повышением производительности. В подобных чатах наблюдаются опасные тенденции.
По заявлению «Яндекса», его ИИ‑система ежемесячно справляется с сотнями DDoS‑атак
Искусственный интеллект «Яндекса» ежемесячно отражает в среднем до 150 DDoS‑атак на сервисы компании. С начала 2025 года было отражено около 800 таких атак. Об этом сообщил директор по информационной безопасности «Яндекса» Александр Каледа изданию ТАСС.«Яндекс» отражает DDoS‑атаки с помощью «Антиробота» — собственного сервиса на основе искусственного интеллекта. Сервис в онлайн‑режиме анализирует запросы ко всем сервисам «Яндекса» и определяет, от кого они поступают — от человека или робота.
Google опровергла сообщения об использовании в Gmail пользовательских писем для обучения ИИ
Google ответила на публикации в социальных сетях и статьи, в которых утверждается, что компания изменила свою политику использования сообщений и вложений Gmail для обучения моделей искусственного интеллекта.
Проверьте почту: Gmail по умолчанию использует электронные письма для улучшения ИИ-функций
Журналисты издания Malwarebytes заметили, что в настройках Gmail у некоторых пользователей появился пункт «Умные функции». С его помощью можно активировать умные функции на основе нейросетей. На странице поддержки отмечается, что компания может использовать полученные данные для улучшения пользовательского опыта.
Microsoft представила функцию копипасты на базе локального ИИ
Функция копирования и вставки Microsoft на базе искусственного интеллекта теперь может использовать локальные ИИ-модели вместо подключения к облаку. Инструмент Advanced Paste представлен в PowerToys для Windows 11.
