Туристические компании жалуются, что нейросети отправляют пользователей к несуществующим достопримечательностям

Руководители туристических компаний жалуются ^[1], что языковые модели отправляют пользователей к несуществующим достопримечательностям. Часто места из рекомендаций от нейросетей находятся в опасных районах, и слишком доверчивые путешественники рискуют попасть в беду.

Один из случаев произошёл в Перу. Пара путешественников отправилась на поиски «Священного каньона Хумантай» в Андах. На одном из туристических пунктов пара спросила дорогу у местного гида, но тот ответил, что такого места просто не существует. При этом район, в котором оказались неподготовленные путешественники — опасен для новичков. Для вылазок надо заранее проверять доступность маршрутов, сверяться с прогнозом погоды и предупреждать спасателей о путешествии. Иначе есть риск застрять на высоте более 4 тыс. метров без связи и провизии.

Согласно данным компании Global Rescue, это не единичный случай. С помощью языковых моделей путешествия планируют 24% туристов. В самых безобидных сценариях это приводит к тому, что в аэропорту пользователи узнают, что им нужна виза для вылета, хотя чат-бот уверял обратное. В других сценариях путешественники проделывают длинный путь ради достопримечательности и уже на месте узнают, что место придумала нейросеть. Известны и более опасные случаи. Например, пара застряла на горе в Японии из-за того, что чат-бот подсказал неправильное время работы туристического маршрута.