Злоумышленники используют функцию обмена контентом ChatGPT для отображения поддельных страниц с информацией о сбоях OpenAI, которые направляют пользователей на загрузку вредоносного ПО. Оно замаскировано под настольное приложение ChatGPT.
Кампания LLMShare, которую обнаружили в Push Security, использует рекламу Google, чтобы направлять пользователей, ищущих ChatGPT, на вредоносную страницу на chatgpt.com. Те, кто кликнул на рекламу, попадают на легитимную страницу ChatGPT, но вместо чата видят сообщение о сбое, утверждающее, что веб-версия недоступна и следует загрузить настольное приложение.
«В данный момент у нас высокая загрузка. Наш веб-сайт временно недоступен из-за большого количества пользователей. Загрузите наше настольное приложение, чтобы продолжить», — гласит поддельное сообщение.
В отличие от традиционных фишинговых страниц, размещаемых на подконтрольной злоумышленникам инфраструктуре, поддельное сообщение о сбое отображается через сам ChatGPT. Злоумышленники создали пользовательскую HTML-страницу, используя возможности рендеринга ChatGPT, и опубликовали её через общую ссылку chatgpt.com/s/, что позволило отображать поддельное уведомление о сбое с легитимного URL-адреса.
В Push Security отметили, что страница содержит элементы управления «Show code» и «Remix with ChatGPT», а это свидетельствует о том, что поддельное уведомление о сбое на самом деле генерируется из пользовательского HTML и CSS, отрисованных с помощью запроса чат-боту.
Если посетитель нажимает на кнопку загрузки, он попадает на веб-сайт openew[.]app, который имитирует портал загрузки настольных приложений OpenAI. Исследователи утверждают, что сайт использует маскировку для отображения контента только целевым жертвам. Когда платформы безопасности, такие как URLScan, посещали этот URL-адрес, им показывался безобидный веб-сайт компании, занимающейся дополненной и виртуальной реальностью.
Между тем жертвы видят загрузки для macOS и Windows, которые устанавливают вредоносное ПО на устройства. Хотя пока неясно, какие именно программы в конечном итоге развёртываются, но более ранние кампании, использующие функции обмена данными на платформах ИИ, распространяли программы-похитители информации.
Тест BleepingComputer версии для Windows на Any.Run показал, что софт выполняет различные команды для определения того, является ли устройство легитимным компьютером или виртуальной машиной.
В Push Security также обнаружили атаки, использующие Claude Artifacts, функцию Anthropic для обмена отрендеренными приложениями и контентом, для размещения приманок в стиле ClickFix, которые обманом заставляли пользователей выполнять вредоносные команды.
Функции обмена данными на платформах ИИ и ранее использовались для распространения вредоносного ПО. В этом году злоумышленники применили рекламу Google, чтобы направлять пользователей, ищущих загрузки Claude, к общим беседам с ИИ, содержащим вредоносные инструкции по установке.
Другие кампании использовали общие беседы ChatGPT и Grok для проведения атак ClickFix, имитируя руководства по установке программного обеспечения.
Между тем Google ранее рассказала о том, что киберпреступники впервые использовали уязвимость нулевого дня, предположительно разработанную искусственным интеллектом.
Автор: maybe_elf
