Опция AI Overview от Google выдавала данные от мошенников за официальную информацию

Опция AI Overview («Обзор ИИ») от Google предоставила пользователю данные от мошенников, утверждая, что это официальная информация, сообщает ^[1] Washington Post. 

Один застройщик искал в Google номер службы поддержки клиентов круизной компании, и позвонил по номеру, указанному в обзоре Google AI. «Он пообщался с компетентным представителем и предоставил данные своей кредитной карты, но на следующий день увидел подозрительные списания средств с кредитной карты и понял, что его обманул мошенник, представляющий службу поддержки клиентов Royal Caribbean», — отмечает репортёр издания.

В Washington Post обнаружили тот же номер телефона в результатах поиска Google и чат-боте ChatGPT, чьи владельцы выдавали себя за горячие линии других круизных компаний.

Схема мошенничества выглядит так: злоумышленники пишут на сайтах с отзывами, форумах и других сайтах сообщения, утверждая, что конкретный номер принадлежит службе поддержки клиентов компании. При поиске в Google ИИ-технология обращается к релевантной информации, включающей такие форумы. Если номера достаточно часто повторяются на разных сайтах, то Google может предлагать их ИИ-обзорах.

«Я видел так много подобных уловок, направленных на пользователей Google, что во многом виню компанию в недостаточной защите своего важнейшего канала доступа к информации», — заключает репортёр. 

Издание советует своим читателям «с подозрением относиться к телефонным номерам в результатах поиска Google или в чат-ботах».

В ответ на запрос журналиста представитель Google сообщил, что они «приняли меры» в отношении нескольких мошеннических номеров, выявленных репортёром. Он также отметил, что компания продолжает «работать над более масштабными улучшениями», чтобы «решить более редкие запросы, подобные этим». 

OpenAI же заявила, что многие веб-страницы, на которые ссылался ChatGPT, похоже, были удалены, а обновление информации может занять некоторое время «после удаления контента из источника».

Согласно анализу Ahrefs, функция «AI Overview» Google снижает ^[2] количество переходов на сайты, занимающие верхние позиции в рейтинге, более чем на 34%. Поскольку издатели жалуются, что ИИ-функции Google убивают трафик, компания предложила ^[3] им возможное решение. Техгигант запустил инструмент Offerwall, который позволяет издателям получать доход помимо более зависимых от трафика источников, таких как реклама.

Между тем Альянс независимых издателей (Independent Publishers Alliance) направил ^[4] антимонопольную жалобу в Европейскую комиссию относительно работы ИИ-функции Google. В ней утверждается, что Google нецелевым образом использует веб-контент для функции AI Overview в поисковой системе, что причиняет и продолжает причинять существенный ущерб издателям, включая новостные медиа.