В Великобритании пользователь обманул чат-бота ИИ в магазине и получил купон со скидкой 80%

В Великобритании владелец онлайн-магазина рассказал ^[1], что ИИ-помощник отлично работал и помогал в продажах почти полгода, пока с ним не начал общаться хитрый клиент. ИИ-бот дал этому покупателю купон на скидку и оформил заказ на £8 тысяч (~834 тысяч рублей). Продавец попросил отменить заказ, но клиент пригрозил судом. Выяснилось, что ИИ дал купон, которого нет в системе. Это был просто набор случайных цифр и букв, чтобы «впечатлить клиента». В итоге продавец смог вернуть деньги и сам отменил заказ.

«Малый бизнес в Англии. На веб‑сайте есть ИИ‑чат, который помогает клиентам ориентироваться на веб‑сайте, и его можно использовать для регистрации заказов / получения контактных данных от клиентов. Клиент общался с ИИ в чате, и ему удалось убедить ИИ предоставить ему скидку в размере 25%, а затем он договорился с ИИ о скидке в размере 80%. Затем он разместил заказ на товары стоимостью в тысячи фунтов стерлингов. Например, я потеряю тысячи только на своих материальных расходах. Я написал своему клиенту, чтобы он отменил заказ, и они ответили, что подадут на меня в суд, если я не выполню заказ. Они дали мне 3 дня на ответ», — пояснил владелец магазина.

«Деньги уже возвращены. Предполагается, что чат‑бот не принимает финансовых решений. Предполагается, что он отвечает на вопросы клиентов с 18:00 до 9:00, когда меня нет рядом. Он прекрасно работал более 6 месяцев, затем пользователь потратил час на общение с ним, уговаривая его показать, насколько он хорош в математике ^[2] и процентах, перевёл разговор на процентные скидки от теоретического заказа, а затем сделал вид, что впечатлён этим. Затем чат‑бот сгенерировал ему совершенно фальшивый код скидки и предложение о скидке в 25%, которая позже была увеличена до 80%, поскольку он пытался произвести на него впечатление», — уточнил человек‑хозяин ИИ и основатель площадки для продажи.