Глава Anthropic: ИИ галлюцинирует реже, чем люди, но неожиданнее

Дарио Амодеи, генеральный директор компании Anthropic, заявил, что современные ИИ-модели, вопреки расхожему мнению, врут и выдумывают факты реже, чем люди. 

«Конечно, это зависит от того, как посмотреть, но я подозреваю, что модели ИИ галлюцинируют меньше, чем люди. Правда, делают это более неожиданным образом», — отметил ^[1]Амодеи в беседе с журналистом TechCrunch на мероприятии Anthropic для разработчиков Code with Claude в Сан-Франциско.

Амодеи считает, что ошибки ^[2] — это нормально. 

«Телеведущие, политики и люди разных профессий постоянно ошибаются. Тот факт, что ИИ тоже совершает ошибки, не является критикой его интеллекта», — заявил он, признав, что проблемой может быть уверенность, с которой ИИ преподносит ложную информацию как факт.

Амодеи подчеркнул, что галлюцинации ИИ не являются непреодолимым препятствием на пути к созданию AGI — искусственного интеллекта ^[3], сопоставимого или превосходящего человеческий разум.

Глава Anthropic известен своим оптимизмом в отношении перспектив AGI. В прошлом году он даже предположил, что AGI может появиться уже в 2026 году. Сейчас он видит устойчивый прогресс в этом направлении и не наблюдает «жёстких блоков», которые мешали бы развитию ИИ.

Не все ИИ-исследователи разделяют его точку зрения ^[4]. Демис Хассабис, глава Google DeepMind, ранее отмечал ^[5], что у современных ИИ-моделей слишком много «дыр», и они ошибаются в очевидных вопросах.

В середине мая Anthropic привлекла ^[6]к себе внимание ^[7] из-за ошибки чат-бота Claude, которая прокралась в юридические документы. Юрист Anthropic использовал выдуманную цитату с неверным названием произведения и автора в тяжбе с музыкальными издателями. Anthropic извинилась за этот инцидент и назвала его «честной ошибкой цитирования, а не намеренной подделкой».