Проект политики ЮАР в области искусственного интеллекта отозвали из‑за галлюцинаций ИИ

Министр связи и цифровых технологий Южно-Африканской Республики Солли Малатси отменил нацпроект политики в области искусственного интеллекта ^[1]. В документе, который составляли при помощи ИИ, нашлись галлюцинации — выдуманные ссылки на научные статьи, сообщает ^[2]Times Live.

Проект политики был опубликован 10 апреля. Через некоторое время журналисты издания News24 заметили ^[3], что в документе цитируются несуществующие статьи из академических журналов. В итоге документ отозвали.

Как отметил Солли Малатси, вероятно, документ недостаточно тщательно проверили. По его словам, проблема здесь не столько техническая, сколько человеческая, она показывает, как важен строгий контроль за использованием искусственного интеллекта. Министр заявил, что это урок для властей, и пообещал «последствия» для тех, кто отвечал за подготовку и проверку документа.

В начале месяца федеральный судья в США наложил ^[4]санкции на управляющего партнёра юридической фирмы Webb Law Group из-за судебного документа, подготовленного с использованием ИИ. В документе оказалась ложная ссылка на судебное дело. Управляющий партнёр Ленден Уэбб получил предупреждение, штраф $1 001 и обязательство пройти обучение ^[5] по надзору за юристами и этичному использованию ИИ.

В прошлом году Anthropic была вынуждена извиниться ^[6]за то, что её чат-бот Claude предоставил недостоверную информацию, которую впоследствии использовали в суде. Бот придумал «неточный заголовок и неверных авторов», ошибка ^[7] ускользнула от ручной проверки и осталась незамеченной.