ChatGPT ссылается на мошеннические сайты-клоны магазинов, созданные для похищения данных банковских карт

Исследователи выяснили ^[1], что ChatGPT направляет покупателей на мошеннические сайты, пишет Cybernews. На фейковых ресурсах пользователи рискуют ввести свои данные, которые сразу попадут в руки аферистов.

Сайты-клоны розничных магазинов, созданные мошенниками, появляются в рекомендациях по покупкам, составленных искусственным интеллектом ^[2]. Это вызывает опасения по поводу того, насколько эффективно поисковые инструменты на основе ИИ предотвращают попадание мошеннических сайтов в поле зрения ^[3] потребителей по мере того, как все больше покупателей переходят на поиск с использованием ИИ.

Проблема была выявлена британским сервисом проверки на мошенничество Ask Silver. Согласно статье в The Guardian ^[4], компания обратилась к ChatGPT за рекомендациями по популярным сумкам и кошелькам Russell & Bromley. Сгенерированный ответ включал в себя информацию о товарах, ценах и ссылки на источники. Однако некоторые из этих ссылок вели на мошеннические сайты, имитирующие официальный сайт ретейлера.

Фальшивые сайты очень похожи на настоящие: они используют брендинг, изображения и описания товаров розничных продавцов, из-за чего кажутся потребителям вполне легитимными. В данном случае в Ask Silver предположили, что мошенники могли воспользоваться неразберихой, возникшей после закрытия магазина Russell & Bromley и его последующего приобретения ретейлером Next в начале 2026 года.

На некоторых из этих поддельных сайтов предлагаются скидки до 80% — распространенный признак мошенничества в сфере онлайн-покупок. Компания Ask Silver выявила поддельные доменные имена, в том числе therussellbromleyofficial, russellandbromleylondon, russellbromleyonlineuk и russell-and-bromley.

Соосновательница Ask Silver Анна Джонс заявила, что, возможно, большая языковая модель, лежащая в основе ChatGPT, была «отравлена». Это приём, при котором вредоносный контент намеренно внедряется в информацию, которую используют ИИ, через клонированные сайты и поддельные сигналы доверия, чтобы система воспринимала их как надёжные источники.

Исследователи предупреждают, что киберпреступники экспериментируют с методами «отравления данных», наводняя интернет фейковыми отзывами, автоматически созданным контентом для форумов и поддельными индексационными данными, чтобы повлиять на то, как системы искусственного интеллекта находят и ранжируют информацию.

Компания OpenAI сообщила The Guardian, что удалила ^[1] мошеннические сайты из своего поискового индекса, пишет Cybernews.

В прошлом году исследователи Cybernews обнаружили ^[5], что системы искусственного интеллекта могут «выдавать» ссылки на фишинговые сайты, когда пользователи запрашивают страницы для входа в систему или онлайн-сервисы. Это даёт киберпреступникам возможность регистрировать такие домены и злоупотреблять доверием к рекомендациям, сгенерированным искусственным интеллектом.