На вершине рейтинга платформы HackerOne оказался ИИ-бот Xbow
Рейтинг платформы HackerOne возглавил бот на базе искусственного интеллекта Xbow, сообщив о рекордном количестве уязвимостей в программном обеспечении крупных компаний. За разработкой ИИ-бота стоит одноимённая компания, которую возглавляет выходец из GitHub.
ИИ-агенты — новый повод для беспокойства?
По мнению экспертов Infosecurity Europe, агентный ИИ и инструменты ИИ, которые подключаются друг к другу без человеческого контроля, представляют собой растущие риски безопасности.
OpenAI обязали хранить даже удалённые чаты пользователей ChatGPT
Суд постановил, что OpenAI должна «бессрочно» хранить все журналы ChatGPT, включая удалённые чаты миллионов пользователей. Постановление было направлено на сохранение потенциальных доказательств в иске о нарушении авторских прав, поданном новостными организациями.
AI-агенты и мультиагентные системы, MCP и A2A. Основные угрозы и подходы к обеспечению безопасности
Всем привет! Меня зовут Борис, я веду канал «Борис_ь с ml» про информационную безопасность и машинное обучение. Сейчас мой основной вектор исследований - мультиагентные системы и их безопасность. Поэтому в мае выступал на эту тему на III Форуме «Технологии доверенного искусственного интеллекта» с докладом «Протоколы MCP и A2A - безопасность для мультиагентных систем или новые угрозы?». По этой ссылке - презентация с выступления.
Настройка КриптоПро HSM Client на Suse-RedHat-ROSA Linux и Мир будущего
Здравствуйте, люди Хабр! Настало время для очередного руководства по кибербезопасности.
Проверка на Data Poisoning в MLSecOps
В первой обзорной статье на Хабре про MLSecOps мы сформировали общее понимание этого нового направления в IT, узнали про основные навыки, необходимые инженерам и архитекторам MLSecOps для успешной работы, подсветили яркое будущее и перспективы этой профессии.Cсылка на статью: MLSecOps: защита машинного обучения в эпоху киберугроз Давайте сегодня погрузимся в практику и разберем один из наиболее часто задаваемых мне вопросов: «Как защищаться от отравления данных? Как проверять данные на Data Poisoning»?
До 20 июля — подавайте свои доклады на IT Elements 2025
Тук-тук! Это снова IT Elements — главное место встречи тех, кто делает ИТ в России. 10–11 сентября
«Продвинутые языковые модели начали понимать, что их тестируют на безопасность» — отчет Apollo Research
Независимая исследовательская группа Apollo Research выпустила отчет
Кристина Свечинская: как юная россиянка стала звездой киберпреступного мира
Кристина Свечинская (источник фото)Если вы вобьёте в любой зарубежный поисковик фразу «самые известные девушки-хакеры
OpenAI Files: громкое расследование о внутренней кухне OpenAI
18 июня 2025 года в открытом доступе появился масштабный отчёт «OpenAI Files». Более чем на 50 страницах независимые организации The Midas Project и Tech Oversight Project раскрыли внутренние документы, переписки сотрудников и свидетельства бывших топ-менеджеров, которые ставят под сомнение заявленную миссию и этику работы одной из крупнейших AI-компаний мира — OpenAI.Что именно выяснили авторы расследования и почему это важно не только для самой компании, но и для всей индустрии искусственного интеллекта?Что раскрыл отчёт?
