OpenAI представила режим в ChatGPT для противодействия внедрению промптов
OpenAI анонсировала две новые функции безопасности для ChatGPT: Lockdown Mode (режим блокировки) и Elevated Risk labels (метки повышенного риска). Опции призваны бороться с угрозами внедрения вредоносных промптов.
Microsoft представила инструмент безопасности для управляющих инфраструктурой ИИ IT-администраторов
Microsoft представила новый инструмент, позволяющий IT-администраторам и специалистам по кибербезопасности управлять состоянием своей инфраструктуры искусственного интеллекта.
Безопасная разработка под новые требования
17 февраля ИТ-компания УЦСБ приглашает специалистов в сфере ИТ и ИБ на прямой эфир «Безопасная разработка под новые требования».На встрече эксперты поговорят о том, как сегодня выглядит безопасная разработка в России — от требований ФСТЭК России для КИИ до стандартов безопасности искусственного интеллекта.Участники эфира обсудят следующие темы:трансформация требований Приказа №117 ФСТЭК России для разработчиков ПО в КИИ и ГИС;Shift Left на практике, SCA, SBOM, переход на отечественные анализаторы;специфика безопасности ИИ: атаки, стандарты (российские и международные), доверенные данные, ИИ в ИБ;
В ВШЭ создали департамент кибербезопасности
В Московском институте электроники и математики им. А. Н. Тихонова ВШЭ создали
ИИ-помощник Moltbot вызвал опасения у специалистов по кибербезопасности
ИИ-ассистент Moltbot (ранее Clawdbot, переименован после претензий Anthropic) вызвал тревогу у специалистов по кибербезопасности, пишет
Тёмная сторона искусственного интеллекта: угрозы, реальные атаки и защита
Искусственный интеллект уже давно перестал быть исключительно инструментом добра. Он помогает врачам ставить диагнозы и разработчикам писать код. Но теми же самыми возможностями всё чаще пользуются злоумышленники. При этом барьер входа в кибератаки резко снизился: чтобы создать вредоносную кампанию, больше не нужно быть тёмным хакером со знанием всевозможных языков программирования. Достаточно пары нейросетевых сервисов и минимального понимания, как устроена социальная инженерия.
Исследователь взломал почту гендиректора компании с помощью одного звонка и дипфейка его голоса
Исследователь Роб Шапланд в рамках пентеста получил доступ к почте генерального директора компании с помощью одного звонка и голоса CEO, сгенерированного ChatGPT на основе открытых данных из ролика в Youtube.
Кибербезопасность индустрия решения проблем или индустрия создания проблем для их последующего решения?
Теневой рынок киберпреступности не страдает от корпоративной бюрократии и не пытается продать клиенту «ощущение безопасности». Он построен на принципах экстремальной эффективности, где каждый участник от разработчика эксплойта до оператора ботнета мотивирован только конечной прибылью. В то время как легальная индустрия ИБ усложняет защиту, хакерская экономика идёт по пути максимального упрощения доступа к атакам.Почему хакерская экономика эффективнее корпоративной защитыКиберпреступный мир давно перешёл на модель «преступление как услуга».
