Представитель «Яндекса» объяснил галлюцинации в ответах ИИ-ассистента «Алисы»

Руководитель бизнес‑группы поисковых сервисов и искусственного интеллекта ^[1] «Яндекса» Дмитрий Масюк рассказал ^[2] РБК, что многие галлюцинации в ответах ИИ‑ассистента «Алисы» устраняются, но полностью их избежать не получится.

Основные моменты из пояснения Масюка:

• проблемы с неточными ответами и «выдумками» нейросетей существуют, но каждый год они кратно сокращаются;

• стопроцентного отсутствия таких галлюцинаций не получится добиться никогда;

• в некоторых случаях ИИ‑ассистент могла бы говорить, что это абсурд, но, тем не менее, действительно, «Алиса» отвечает прямо и ссылается на существующие источники, не выдумывает это сама;

• существуют механизмы дообучения, когда нейросеть «наказывают» за «придумки» и мотивируют «быть гораздо ближе к источникам»;

• Масюк рассказал, что обучение ^[3] ИИ‑ассистента проходит в три этапа:

  • на первом берётся «более‑менее весь интернет, очищенный от заведомо каких‑то бессмысленных вещей» — это десятки терабайтов данных;

  • на втором этапе нейросети дают сотни тысяч вопросов и ответов, написанных редакторами. Так она учится поведению ^[4], «что следует комментировать, что не следует комментировать»;

  • третий этап, по словам Масюка, «самый хитрый». «Мы делаем отдельную нейросеть, которая оценивает ответы основной. И следом, соответственно, нейросеть работает, работает, работает, работает, а в это время её оценивает та самая отдельная нейросеть‑судья, скажем так», — пояснил он.

• несмотря на работу по дообучению ИИ, «Яндекс» по своим замерам не видит, что недочёты нейросетей являются чувствительными непосредственно для пользователей;

• пользователи хотят одновременно и живого общения с некоей фантазией у ИИ, и при этом, чтобы были чёткие факты.

Ранее в интервью издания «Газета.Ru» руководитель продукта «Алиса AI» в «Яндексе» Виталий Данилкин рассказал ^[5], что ощущение тормозящей «Алисы» возникает у пользователей из‑за их возросших ожиданий от технологии.

Данилкин признал, что разработчики в компании знают о том, что пользователи стали чаще жаловаться на якобы ухудшившуюся работу ИИ‑ассистента. По его словам, подобные наблюдения начали отмечать и некоторые сотрудники «Яндекса». В компании исследовали эту ситуацию и пришли к выводу, что причина находится не в самих технологиях, а в возросшем уровне их ожиданий от пользователей. «Фактически „Алиса“ не стала хуже работать, но пользователи на это жалуются. Причина в том, что пользователям только кажется, что „Алиса“ стала работать хуже. Это ощущение вызывает возросший уровень ожиданий от технологии», — заявил эксперт.