Юристы Sullivan & Cromwell извинились перед судом за подачу сгенерированных ИИ документов с галлюцинациями

Одна из крупнейших юридических компаний Уолл-стрит Sullivan & Cromwell направила в суд ^[1] Манхэттена письмо с извинениями за отправку документа, сгенерированного ИИ и полного галлюцинаций. Нейросеть неправильно цитировала закон и выдумывала источники. В компании объяснили инцидент недостаточно тщательной проверкой после генерации.

Юристам в США не запрещается использовать ИИ в работе, однако документы, представленные в суде, должны быть безупречно точными. Как заявил один из руководителей Sullivan & Cromwell Эндрю Дитдерих, в компании действуют «комплексные политики и правила использования ИИ-инструментов в юридической работе», которые в этот раз «не были соблюдены». При проверке документа после генерации ошибок никто не заметил.

В письме не уточняется, какое именно ПО использовалось для подготовки материалов. Позднее фирма подала исправленную версию документа.

Sullivan & Cromwell — одна из крупнейших юридических фирм США. Она насчитывает более 900 юристов и специализируется на сделках слияний и поглощений, корпоративных спорах и вопросах частного капитала.