1Password: 40% разработчиков предоставляют агентам ИИ постоянный доступ к системам
Исследование компании 1Password показывает, что многие компании предоставляют ИИ‑агентам доступ к конфиденциальным системам и учётным данным без ограничений или мониторинга.
ИИ в IT: как пользоваться ChatGPT и не слить конфиденциальные данные
ИИ помогает инженеру. Но готов ли инженер безопасно его использовать?Искусственный интеллект реально изменил то, как работают айтишники. Сетевые инженеры, безопасники, админы, DevOps, SOC-аналитики почти все сейчас так или иначе используют ChatGPT, Claude, Gemini в работе. У меня ИИ уже давно не «игрушка для баловства», а рабочий инструмент на каждый день: разобрать конфиг, найти ошибку, объяснить, почему что-то не работает так, как должно, накидать скрипт. Это экономит кучу времени, и сидеть руками разбирать то, что ИИ решает за секунды сейчас просто нет смысла.
ИИ по обе стороны кибербезопасности: интервью с руководителем ИБ Своего Банка
Привет, Хабр!Сегодня снова говорим с Алексеем Ахмеевым, руководителем Управления информационной безопасности
Anthropic заявила о взломе систем трёх компаний со стороны Claude в тестах
Компания Anthropic сообщила, что внутреннее расследование выявило три инцидента, в ходе которых её модель ИИ Claude взломала системы трёх организаций во время проведения тестов кибербезопасности. Это произошло более чем через неделю после того, как OpenAI сообщила о взломе одной из своих ещё не выпущенных моделей Hugging Face при внутреннем тестировании.
Claude во время кибер‑оценок получил доступ к трём реальным организациям
Anthropic проверила 141 006 запусков CTF‑оценок Claude и нашла три инцидента: из‑за ошибочной конфигурации среды у моделей был выход в интернет, хотя системная инструкция утверждала обратное. В шести запусках агенты атаковали реальные системы, принимая их за элементы симуляции.
Агент OpenAI не сошёл с ума. Что мы знаем о взломе Hugging Face спустя неделю
Первая новость об этой истории уже успела состариться. Сначала Hugging Face сообщила о сложной автоматизированной атаке, потом OpenAI признала, что за ней стояли её модели, а ещё через несколько дней Reuters описал неприятную задержку с обнаружением. Каждое новое объяснение делало исходный заголовок спокойнее на вид и неприятнее по существу.
Гендиректор Hugging Face призвал к «радикальной прозрачности» после взлома со стороны OpenAI
После того, как OpenAI недавно признала, что одна из её моделей взломала системы ИИ Hugging Face, генеральный директор платформы Клем Деланге призвал к «радикальной прозрачности», попросив компанию «опубликовать следы от “агентов-изгоев“, чтобы всё исследовательское сообщество могло изучить произошедшее».
Анализ новой доктрины Минцифры
На днях на официальном портале Министерства цифрового развития, связи и массовых коммуникаций Российской Федерации был опубликован проект указа президента об утверждении Доктрины развития системы противодействия правонарушениям, совершаемым с использованием информационно-коммуникационных технологий. Она призвана определить ключевые направления защиты киберпространства от угроз на долгосрочную перспективу до 2035 года
За атакой на Hugging Face стояла GPT-5.6 Sol и предрелизная LLM от OpenAI
Да, теми самыми злостными хакерами оказались OpenAI. Ну почти. Компания раскрыла подробности инцидента, о котором ранее сообщила Hugging Face. Они подтвердили, что за атакой на инфраструктуру платформы стояли две модели OpenAI — публичная GPT-5.6 Sol и более мощная предрелизная модель, проходившие внутреннее тестирование на кибербезопасность. По словам OpenAI

