ИИ-платформа Hugging Face начала сотрудничать с антивирусным сканером VirusTotal

Платформа искусственного интеллекта ^[1] с открытым исходным кодом Hugging Face начинает сотрудничать ^[2] с облачным антивирусным сканером VirusTotal для борьбы с новыми угрозами. Теперь, загрузив модель ИИ на Hugging Face, пользователь увидит соответствующую информацию о безопасности от различных сканеров вредоносных программ.

Новая функция помогает оценить потенциальные риски в файлах моделей, наборах данных и связанных артефактах ещё до их загрузки. Любые небезопасные файлы, обнаруженные VirusTotal, будут содержать ссылку на общедоступный отчёт с подробной информацией.

Антивирус позволит отслеживать новые угрозы — подменённые файлы моделей, небезопасные зависимости, заражение данных и скрытые бэкдоры. 

В VirusTotal заявили: «Мы разрабатываем инструменты анализа на основе ИИ, такие как Code Insight, который использует LLM для понимания и объяснения поведения ^[3] кода, и добавляем поддержку специализированных инструментов для форматов модели/сериализации, включая picklescan, safepickle и ModelScan, чтобы выявлять рискованные шаблоны и небезопасные потоки десериализации».

Ранее в VirusTotal обнаружили ^[4] фишинговую кампанию, скрытую в файлах масштабируемой векторной графики (SVG). Её авторы имитируют работу порталов судебной системы Колумбии и распространяют вредоносное ПО. Кампанию выявили после того, как VirusTotal добавил поддержку SVG в свою платформу AI Code Insight. Эта функция анализирует загруженные образцы файлов с помощью машинного обучения ^[5] для создания сводок о подозрительном или вредоносном поведении ^[6].