В США родители подали в суд на Google из‑за рисков, связанных с использованием ИИ на школьных Chromebook

В Верховный суд Калифорнии поступил иск против Google, в котором утверждается, что 13-летняя ученица спланировала самоубийство ^[1] спустя несколько месяцев после начала общения с искусственным интеллектом ^[2] компании на выданном школой ноутбуке Chromebook, пишет ^[3] New York Times.

В иске девочка фигурирует под именем Эмма. Родители узнали о доступе их ребёнка к ИИ от Google в середине марта после того, как школа прислала уведомление о том, что девочка находится в «непосредственной опасности» причинения вреда себе. Мать Эммы вошла в школьный аккаунт Google и обнаружила, что её дочь пишет предсмертную записку в Google Docs. Родители немедленно отвезли школьницу на экстренную психиатрическую экспертизу, теперь она каждую неделю посещает сеансы терапии.

Из судебных документов следует, что Эмма — ученица седьмого класса из города Шарлотт, штат Северная Каролина. После взаимодействия с ИИ‑режимом в поисковике Google девочка убедилась в наличии у неё нескольких расстройств психики. Она также искала в интернете информацию о том, «что такое предсмертная записка». Кроме того, Эмма писала ИИ, что «планирует собственные похороны».

Истцы утверждают, что Google «поспешно интегрировала» ИИ‑функции в корпоративные приложения, используемые на Chromebook, без уведомления родителей о потенциальных рисках.

Представитель Google Хосе Кастаньеда заявил, что компания тесно сотрудничала с экспертами в области здравоохранения для разработки функций, помогающих молодым людям находить экстренную помощь. Сейчас корпорация рассматривает претензии, изложенные в иске.

«В течение многих лет мы [Google] отображали информацию о горячих линиях прямо в результатах поиска, когда кто‑то мог испытывать кризис психического здоровья. Мы встроили те же самые механизмы защиты в функции искусственного интеллекта поисковика, чтобы связать людей с реальной поддержкой», — написал Кастаньеда.

«Разветвлённая цифровая экосистема» Google позволила компании распространять чат‑бот Gemini в государственных школах, а также включить по умолчанию доступ к ИИ‑функциям для некоторых учеников без ведома и разрешения родителей. Хотя школьные администраторы могут включать и выключать YouTube, Gemini и другие приложения, Google не позволяет деактивировать ИИ‑режим и AI Overviews, встроенные в Google Search.

В начале текущего месяца Google объявила ^[4] о планах разрешить начальным и средним школам отключать ИИ‑инструменты, если руководство учебного заведения согласно с этим. Однако в таком случае школы лишатся доступа к Google Search, поскольку ИИ‑функции интегрированы в поисковик. На этом фоне свои услуги школам предложила ^[5] DuckDuckGo.

Летом этого года Meta* урегулировала ^[6] ряд споров в рамках судебного процесса по вопросам безопасности детей в интернете. Корпорация выплатит $17,1 млрд 48 американским штатам и на десять лет ограничит подросткам использование Facebook** и Instagram**. При этом Meta отрицает какие‑либо правонарушения. Несколько родителей также подали ^[7] в суд на ИИ‑компании, обвинив ^[8] в том, что их дети покончили жизнь самоубийством после взаимодействия с чат‑ботами.

В последнем иске родители Эммы приводят аргументы, аналогичные тем, которые недавно использовались против Meta — продукты Google нанесли вред девочке. По их словам, несовершеннолетняя имела ограниченный доступ к ноутбукам и приложениям дома, а также не пыталась использовать ИИ на выданном Chromebook. Однако поисковик Google перенаправлял Эмму в ИИ‑режим. В результате чат‑бот убедил девочку доверять ему больше, чем родителям и психологам, настаивают истцы.

Они отметили, что система Google не уведомила школу или родителей Эммы о рисках причинения вреда. Школа пользовалась услугами мониторинга сторонней компании, которая и обратила внимание ^[9] на план самоубийства в Google Docs.

<sub>Meta Platforms*, а также принадлежащие ей продукты Facebook** и Instagram**:
* признана экстремистской организацией, её деятельность в России запрещена;
** запрещены в России</sub>