Адвокат Anthropic признался в использовании ошибочной цитаты, созданной чат-ботом Claude

Представляющий интересы компании Anthropic адвокат признался ^[1] в использовании ошибочной цитаты, сгенерированной чат-ботом Claude. На поддельную цитату в судебных документах обратил внимание ^[2] юрист музыкальных лейблов Universal Music, Concord и ABKCO. Последние подали иск ^[3] к Anthropic из-за незаконного использования компанией текстов песен для обучения ^[4] моделей на базе искусственного интеллекта ^[5].

13 мая суд обязал ^[6] Anthropic ответить на обвинения о том, что в её ответе на претензии о нарушении авторских прав содержится цитата, появившаяся в результате «галлюцинации» Claude. Юрист музыкальных лейблов заявил, что специалист по данным Anthropic сослался на несуществующую научную статью.

В суде Anthropic сообщила, что чат-бот допустил «честную ошибку ^[7] цитирования», которую проигнорировали юристы компании. Ручная проверка цитат не выявила ошибок, вызванных «галлюцинациями» Claude, подчеркнули в Anthropic. Ошибку допустила эксперт-свидетель и по совместительству сотрудница компании Оливия Чен, которая использовала чат-бот для подкрепления ^[8] аргументации.

Это не первый случай появления ошибок в документах из-за некорректной работы ИИ-моделей. В феврале юридическая фирма Morgan & Morgan предупредила ^[9] более тысячи своих сотрудников, чтобы они остерегались «галлюцинаций» ИИ-инструментов при подготовке судебных документов. Подобные инструменты способны генерировать фальшивые судебные прецеденты, а использование выдуманных сведений может привести к увольнению юристов.

В мае суд Калифорнии оштрафовал ^[10] на $31 тыс. две юридические компании за «ложные, неточные и вводящие в заблуждение юридические ссылки и цитаты», сгенерированные ИИ и попавшие в судебные документы.