Иммиграционная служба Канады отклонила заявление учёного на основании придуманных ИИ данных

Иммиграционная служба Канады отклонила заявление учёного, сославшись на то, что должностные обязанности её нынешней работы не соответствовали указанному опыту работы в стране. Однако на самом деле этот несуществующий факт придумал ИИ.

Заявительница работала в Канаде в качестве специалиста по здравоохранению, у неё есть докторская степень в области иммунологии старения. При этом ИИ, который использовали сотрудники службы иммиграции, описал её работу как «монтаж и сборку схем управления, создание панелей управления и робототехники, программирование и устранение неполадок». 

«Считается, что это первый случай, когда ведомство прямо упомянуло об использовании генеративного ИИ для поддержки обработки заявлений в случае отказа в иммиграции. В заявлении также отмечалось, что весь сгенерированный контент был проверен сотрудником и что генеративный ИИ не использовался для принятия или рекомендации решения», — сообщает Toronto Star. 

Адвокат заявительницы был шокирован тем, «как вообще человек мог принять такое решение». «Каким-то образом это противоречило должностной инструкции моей клиентки. Я бы очень хотел увидеть, что увидел сотрудник. Здесь что-то серьёзно пошло не так», — сказал он. 

Одновременно Министерство иммиграции Канады опубликовало первую стратегию в области искусственного интеллекта, в которой ИИ рассматривается как способ повышения эффективности, качества предоставления услуг и целостности программ. Ведомство заявляет, что давно использует цифровые инструменты для аналитики и автоматизации, чтобы выявлять риски мошенничества и проводить сортировку заявок. Теперь оно также экспериментирует с генеративным ИИ для таких задач, как исследование, обобщение и анализ. 

Однако в данном случае министерство настаивало на том, что решение было принято человеком-сотрудником, а генеративный ИИ не участвовал в его утверждении.

Это не первый случай, когда ИИ подменяет факты биографии людей. В декабре 2025 года канадский скрипач Эшли Макайсак выяснил, что функция поисковика Google «Обзор ИИ» ложно обвинила его в сексуальном преступлении. Из-за этого музыкант столкнулся с отменой концерта. Выяснилось, что в обзоре ИИ Google ошибочно смешала факты биографии музыканта с данными другого человека с тем же именем.