Платформа искусственного интеллекта с открытым исходным кодом Hugging Face начинает сотрудничать с облачным антивирусным сканером VirusTotal для борьбы с новыми угрозами. Теперь, загрузив модель ИИ на Hugging Face, пользователь увидит соответствующую информацию о безопасности от различных сканеров вредоносных программ.
Новая функция помогает оценить потенциальные риски в файлах моделей, наборах данных и связанных артефактах ещё до их загрузки. Любые небезопасные файлы, обнаруженные VirusTotal, будут содержать ссылку на общедоступный отчёт с подробной информацией.
Антивирус позволит отслеживать новые угрозы — подменённые файлы моделей, небезопасные зависимости, заражение данных и скрытые бэкдоры.
В VirusTotal заявили: «Мы разрабатываем инструменты анализа на основе ИИ, такие как Code Insight, который использует LLM для понимания и объяснения поведения кода, и добавляем поддержку специализированных инструментов для форматов модели/сериализации, включая picklescan, safepickle и ModelScan, чтобы выявлять рискованные шаблоны и небезопасные потоки десериализации».
Ранее в VirusTotal обнаружили фишинговую кампанию, скрытую в файлах масштабируемой векторной графики (SVG). Её авторы имитируют работу порталов судебной системы Колумбии и распространяют вредоносное ПО. Кампанию выявили после того, как VirusTotal добавил поддержку SVG в свою платформу AI Code Insight. Эта функция анализирует загруженные образцы файлов с помощью машинного обучения для создания сводок о подозрительном или вредоносном поведении.
Автор: maybe_elf
