Разговоры с чат‑ботами могут стать доказательством в суде

Разговоры с чат‑ботами на искусственном интеллекте ^[1] могут стать доказательством в судебных разбирательствах, пишет ^[2] Washington Post. Американская газета ссылается на дело 15-летнего подростка, фигурирующего в судебных документах как RKC, против платформ социальных сетей. Отец несовершеннолетнего рассказал сыну, что он получит $1 млн после победы в деле о зависимости от соцсетей. Ребёнок поделился этим с ChatGPT, а позже запросы чат‑боту обнародовали адвокаты защиты.

Семья RKC подала иск против Meta*, Snapchat, TikTok и YouTube в 2023 году. В иске сторона обвинения утверждала, что приложения компаний стали причиной многолетней зависимости подростка от соцсетей и проблем с психическим здоровьем. Позже семья заключила соглашение со Snap, TikTok и YouTube, а также отозвала иск против Meta. Компании отрицают обвинения семьи несовершеннолетнего.

RKC — один из растущего числа американцев, чьи личные разговоры с чат‑ботами стали достоянием общественности в суде. WP провела анализ общедоступных документов и новостных сообщений, который показал, что данные из чат‑ботов были использованы в 12 судебных разбирательствах за последние два года.

Адвокат RKC Майк Морган заявил, что запросы подростка в ChatGPT “не имели никакого отношения” к разрешению дела.

В некоторых случаях компании в сфере ИИ сообщали ФБР о пользователях своих платформ, что приводило к уголовному преследования и минимум одному обвинительному приговору. Весной этого года бюро расследований предупредило полицию округа Палм‑Бич во Флориде об обращении OpenAI по поводу пользователя Даррена Чжоу, который неоднократно рассказывал ChatGPT о планах изнасиловать и убить свою бывшую девушку, а также причинить вред себе.

Чжоу арестовали и обвинили в преследовании и угрозах на основании отправленных сообщений девушке и разговорах с чат‑ботом. Мужчину приговорили к восьми годам условного заключения после того, как он признал вину.

OpenAI рассказала ^[3] об использовании программного обеспечения для сканирования переписок на предмет признаков опасного поведения ^[4] и передачи этих сведений модераторам. Последние определяют «неминуемость и реальность угроз причинения вреда другим», сообщая о пользователях правоохранительным органам. Представитель компании отказался раскрыть, сколько раз компания сообщала о пользователях в полицию.

Информация OpenAI показывает, что число запросов от государственных и правоохранительных органов на предоставление пользовательских данных быстро растёт. Во второй половине прошлого года компания раскрыла свыше 80 аккаунтов, что более чем в четыре раза превышает показатель за аналогичный период предыдущего года.

Однако всплывающие в уголовных делах разговоры с чат‑ботами часто связаны с тем, что пользователи сами разрешают правоохранителям получить доступ к этой информации путём осмотра смартфона во время допроса или после ареста, объяснил директор по судебным делам Центра по защите Четвёртой поправки в составе Национальной ассоциации ^[5] адвокатов по уголовным делам США Майкл Прайс. Так было в случае Райана Шефера, задержанного ^[6] за вандализм на парковке Университета штата Миссури.

В гражданских судебных процессах разговоры с чат‑ботом могут быть собраны в ходе процесса раскрытия доказательств, что позволяет проводить масштабный поиск по устройствам лиц, участвующих в деле.

По словам генерального директора OpenAI Сэма Альтмана, общение с чат‑ботами должно получать особую правовую защиту, аналогичную той, что предоставляется при взаимодействии клиентов с их адвокатами. Альтман считает, что такой уровень защиты должен применяться к деликатным вопросам, таким как медицинская информация. Однако в настоящее время диалоги с чат‑ботами не защищены подобными механизмами. В нерегулируемой среде крайне маловероятно, что какой‑либо суд признает общение с чат‑ботом конфиденциальными, заявила профессор права в Южном методистском университете Лора Абельсон.

_{* Meta Platforms признана экстремистской организацией, её деятельность в России запрещена}