ИИ нашёл уязвимость на сайте спортзала и отменил чужую бронь ради хозяина-пользователя
Пользователь из Австралии по имени Эндрю попросил
Самая опасная уязвимость — интеллект атакующего агента?
Сейчас уже не удивляет, что агенты работают с терминалом, БД, браузером и инфраструктурой - без прямого контроля человека. Но чем шире полномочия агента, тем вероятнее, что для достижения цели выбранный им путь обернётся инцидентом. В кибербезопасности сейчас не хватает терминологии и устоявшихся подходов к защите таких систем - особенно в тех случаях, когда агент начинает действовать непредсказуемо.Именно эта неразбериха и подтолкнула нас с автором телеграм-канала OK ML
OpenAI замедлила разработку модели Astra
OpenAI сообщила о приостановке работы над некоторыми аспектами своей будущей модели Astra после того, как внутренняя проверка выявила значительные успехи в программировании агентов и кибербезопасности — достаточные для того, чтобы вызвать опасения по поводу её возможностей.
Anthropic сделает Auto mode режимом по умолчанию в Claude Code: люди пропустили 86,4% опасных команд
Anthropic объявили, что с 14 августа новые сессии Claude Code на тарифах Pro, Max и Team будут запускаться в Auto mode по умолчанию. В этом режиме агент не просит разрешение перед каждым действием: каждый вызов инструмента проверяет отдельный классификатор, который должен блокировать необратимые, разрушительные и выходящие за границы рабочего окружения операции.По данным Anthropic, пользователи одобряют 97% запросов Claude Code на выполнение команд, а автоматическая проверка в контролируемом эксперименте обнаружила значительно больше опасных действий, чем люди.
Загрузил не тот файл в нейросеть — уволен. Как устроена безопасность данных в ИИ
Договор с клиентом, фрагмент кода, медицинская карта — отважные пользователи нейросетей каждый день загружают данные, которые никогда бы не отправили незнакомому человеку. При этом мало кто понимает, куда физически они попадают, кто может их увидеть и использовать, что происходит после нажатия «удалить».
Поведенческий антифрод: что еще анализируют антифрод-системы помимо отпечатков железа и браузера
В сети можно найти много материалов, в которых отпечатки браузера возведены на вершину пирамиды антидетекта. С этим сложно не согласиться: фингерпринт действительно длительное время используется системами защиты как важная часть антибот-стратегии. В нашем блоге есть статья — «Отпечатки браузера — что это такое», в которой вы можете погрузиться в эту технологию.Привет! Я Александр, пишу для антидетект-браузера Aurorium
Эксперты UserGate обозначили деталь, которая выдаст дипфейк за секунду
Эксперт UserGate Светлана Газизова проанализировала актуальные индикаторы дипфейков и назвала признак, по которому сегодня можно распознать видеозвонок от мошенника за секунды. Как оказалось, генераторы до сих пор не умеют подделывать биомеханику обычной пряди волос.
Innostage TDIR. Интеллектуальная автоматизация расследования инцидентов ИБ обновлен до версии 1.0.0
Компания Innostage существенно обновила Innostage TDIR — решение для интеллектуальной автоматизации деятельности центров мониторинга и реагирования на инциденты информационной безопасности (SOC). Версия 1.0.0 получила множество улучшений, касающихся интеграции с SOAR, генерации запросов в SIEM, проверки инцидентов и рекомендациям по реагированию, взаимодействия с ИИ-чатом и другие.
