Google изучает атаки с внедрением подсказок против ИИ-агентов
В Google команды по анализу угроз изучают опасности, связанные с внедрением косвенной подсказки (IPI) для компрометации агентов ИИ, просматривающих веб-страницы. Они провели масштабное исследование общедоступной сети для мониторинга известных шаблонов внедрения таких подсказок.
Mercor заявила о кибератаке после взлома проекта с открытым исходным кодом LiteLLM
Стартап в сфере подбора персонала с использованием ИИ Mercor подтвердил инцидент безопасности, связанный с атакой на цепочку поставок, в которой участвовал проект с открытым исходным кодом LiteLLM.
ИИ-платформа Hugging Face начала сотрудничать с антивирусным сканером VirusTotal
Платформа искусственного интеллекта с открытым исходным кодом Hugging Face начинает сотрудничать с облачным антивирусным сканером VirusTotal для борьбы с новыми угрозами. Теперь, загрузив модель ИИ на Hugging Face, пользователь увидит соответствующую информацию о безопасности от различных сканеров вредоносных программ.
Исследование: 250 вредоносных документов могут вызвать сбой в работе языковой модели с 13 млрд параметров
Специалисты Anthropic совместно с Институтом безопасности ИИ Великобритании, Институтом Алана Тьюринга и другими исследовательскими центрами провели эксперимент, который показал, что всего 250 вредоносных документов способны вызвать сбой в работе языковой модели с 13 млрд параметров. Таким образом, для появления багов достаточно «отравить» всего 0,00016% обучающего корпуса.
Материнские платы серверов Supermicro оказались заражены неудаляемым вредоносным ПО
Серверы, работающие на материнских платах Supermicro, оказались подвержены уязвимостям высокого уровня опасности, которые позволяют хакерам удалённо устанавливать вредоносную прошивку до загрузки операционной системы. Это мешает обнаружить заражение и удалить вредонос с применением стандартных мер защиты.
Microsoft представила ИИ-агента Project Ire для поиска скрытых вредоносов
Microsoft презентовала прототип автономного ИИ-агента Project Ire, который может анализировать программные файлы и выявлять скрытый вредоносный софт. Система использует декомпиляторы и другие инструменты, в том числе API-интерфейс на основе Project Freta, а также сторонние и внутренние утилиты.
ИИ уличили в рекомендациях фишинговых ссылок на бренды
Исследователи Netcraft провели эксперимент с чат-ботом ChatGPT и ИИ-поисковиками, попросив их перейти на различные известные платформы. Из 131 имени хоста для 50 брендов 34% оказались фишинговыми ссылками.
