Адвокат в суде сослался на несуществующих свидетелей из‑за использования ChatGPT

Верховный суд штата Нью‑Мексико заявил ^[1], что адвокат, который подавал апелляцию на обвинительный приговор своему клиенту по делу об убийстве, представил документ с вымышленными показаниями полицейских и несуществующих свидетелей. Для его составления он воспользовался ChatGPT.

В итоге Верховный суд Нью‑Мексико оштрафовал адвоката Стивена Ааронса на $5000 и признал его виновным в неуважении к суду за то, что он не проверил достоверность поданного документа. 

Судейская коллегия также заявила, что Ааронс «не проявил раскаяния и не продемонстрировал заботы о своём клиенте». 

Адвокат сообщил, что использовал ChatGPT для обобщения материалов судебного разбирательства, когда в прошлом году взялся за апелляцию подсудимого, и не осознавал, в какой степени ИИ способен «галлюцинировать», выдумывая факты.

«Я раскаиваюсь, но надеюсь, что дисциплинарная комиссия учтёт, что это была непреднамеренная ошибка ^[2], — сказал он. — Это урок для всех профессионалов, полагающихся на эту мощную, но порой ненадёжную технологию». 

Санкция суда стала очередным случаем в растущем списке инцидентов, когда судьи и адвокаты применяли ИИ без надлежащей проверки. Случай Ааронса, по‑видимому, оказался более серьёзным, так как документ содержал вымышленные показания свидетелей в рамках апелляции по уголовному делу. Частный защитник из Санта‑Фе занимался апелляцией Оскара Рене Сандовала, который не признал себя виновным в убийстве матери своих детей, но был осуждён и приговорен в прошлом году к пожизненному заключению. Теперь рассмотрение апелляции продолжается, однако защиту поручили Киму Чавесу Куку, государственному адвокату штата Нью‑Мексико. 

В прошлом месяце Верховный суд штата обязал Ааронса объяснить, каким образом в его основную апелляционную жалобу попали вымышленные сведения — в частности, утверждение о том, что стрелявший был одет в тёмные брюки и белую рубашку. Тот сообщил суду, что загрузил в ChatGPT сгенерированную компьютером стенограмму и другие материалы дела, полагая, что нейросеть составит «безупречное резюме».

Судьи выразили недоумение по поводу того, что Ааронс не вполне осознавал вероятность ошибок искусственного интеллекта ^[3]. «Адвокат, вы смотрите новости? Слушаете радио? Читаете ли вы что‑нибудь о том, что происходит в мире? — спросила на слушании судья К. Шеннон Бэкон. — Ведь проблема того, как юристы полагаются на „галлюцинации“ искусственного интеллекта, ежедневно становится главной темой новостей».

Ранее суд в американском штате Миссисипи отстранил ^[4] от разбирательства адвокатов обеих сторон из‑за подозрений в использовании искусственного интеллекта для аргументации друг против друга. Тогда судья Шарион Эйкок написала, что адвокаты потратили время суда впустую, поскольку они просто брали ответы ИИ и использовали их в суде без проверки.