В Великобритании подросток решил раздеться перед Gemini Live в режиме камеры, после этого ИИ удалил все аккаунты семьи

В Великобритании 14-летний подросток решил раздеться перед голосовым помощником Gemini Live с доступом к камере планшета. В результате искусственный интеллект ^[1] удалил ^[2] все аккаунты семьи и документы родителей несовершеннолетнего.

Google запустила ^[3] режим голосового чата под названием Gemini Live летом 2024 года. Функция позволяет общаться с голосовым помощником как с реальным человеком. Gemini Live умеет анализировать объекты вокруг пользователя и содержимое экрана его устройства.

Инструмент распознал происходящее с несовершеннолетним пользователем и заблокировал его учётную запись, на что ушло несколько дней. Все остальные учётные записи пользователей на планшете также оказались заблокированы. От своих аккаунтов оказались отрезаны пять человек, включая подростка, его родителей и двух сестёр.

Об этой ситуации рассказал пользователь Reddit, вероятно, отец мальчика. Он отметил, что 15 лет работы его бизнеса стали недоступны. Автор публикации добавил, что электронные письма и документы хранились на Google Drive. Даже его сайт был привязан к аккаунту Google. Отец не знает, как будет платить ипотеку через 3 месяца, а у его дочери случился срыв, поскольку ей нужно сдать диссертацию через несколько недель.

Восстановление заблокированной информации станет непростой задачей. Для Google и других технологических компаний возможность обнаружения детской порнографии — это вопрос выживания. Любое проявление снисходительности или халатности в этом направлении способно вызвать серьёзную негативную реакцию ^[4] как со стороны пользователей, так и регулирующих органов.

Журнал PC World отмечает, что попытка связаться со специалистом технической поддержки Google не всегда завершалась успешно и в лучшие времена. Даже крупным YouTube-блогерам, которые приносят корпорации огромные деньги, бывает сложно получить подобную помощь. Для обычного пользователя, да ещё в столь сложном случае, эта попытка может обернуться кошмаром, объяснил автор PC World.