«Обзор ИИ» от Google ошибочно обвинил музыканта в преступлении

Канадский скрипач Эшли Макайсак выяснил ^[1], что функция поисковика Google «Обзор ИИ» ложно обвинила его в сексуальном преступлении. Из-за этого музыкант столкнулся с отменой концерта.

Организаторы мероприятия в индейской резервации Сипекне’катик к северу от Галифакса отменили предстоящее выступление Макайсака.

Выяснилось, что в обзоре ИИ Google ошибочно смешала факты биографии музыканта с данными другого человека с тем же именем.

«Google облажался, и это поставило меня в опасную ситуацию», — отметил Макайсак.

После того, как правда всплыла наружу, индейское племя Сипекне’катик принесло извинения музыканту и выразило надежду на скорую встречу. «Мы глубоко сожалеем о вреде, который эта ошибка ^[2] причинила вашей репутации, вашему средствам к существованию и вашему чувству личной безопасности. Для нас важно чётко заявить, что эта ситуация стала результатом ошибочной идентификации, вызванной ошибкой искусственного интеллекта ^[3], а не отражением того, кто вы есть на самом деле», — написал представитель племени. 

Представитель Google, тем временем, заявил, что «поиск, включая обзоры ИИ, динамичен и часто меняется, чтобы показывать наиболее полезную информацию». «Когда возникают проблемы — например, если наши функции неправильно интерпретируют веб-контент или упускают какой-то контекст — мы используем эти примеры для улучшения наших систем и можем принять меры в соответствии с нашей политикой», — добавил он.

Хотя обзор уже обновили, музыкант объяснил, что эта ситуация представляет для него огромную дилемму как для гастролирующего музыканта. Во-первых, неизвестно, сколько других организаторов мероприятий отказались от его услуг из-за клеветнического заявления, а также — сколько потенциальных зрителей получили неверное представление о нём.

«Люди должны понимать, что им следует проверять онлайн-ресурсы, чтобы убедиться, что имя не фигурирует в результатах поиска», — сказал Макайсак.

В 2024 году сообщалось, что немецкий журналист Мартин Бернклау в чате с Copilot от Microsoft выяснил ^[4], будто его обвинили в жестоком обращении с детьми и семейной эксплуатации. ИИ также утверждал, что репортёр участвовал в побеге из психиатрической больницы. Наконец, чат-бот выдал полный адрес Бернклау с номером телефона и планировщиком маршрута.

Сам журналист отмечал, что он написал много статей, освещающих судебные разбирательства по делам о злоупотреблениях, насилии и мошенничестве, а Copilot не понял контекста и приписал эти преступления ему.