Когда нейросети перестанут галлюцинировать? И почему на «что за дичь» они несут ещё большую дичь?
Каждый, кто работал с большими языковыми моделями (LLM), знает эту боль. Ты задаёшь вопрос. Бот выдаёт уверенный, красивый, но абсолютно ложный ответ. Ты пишешь: «Что за дичь ты несёшь?» Бот извиняется: «Вы абсолютно правы, вот исправленный вариант». И выдаёт ещё большую дичь, чем в первый раз. Прямо как студент на экзамене.Сегодня разбираемся, почему так происходит, и когда это наконец починят. Спойлер: не скоро и не полностью.Анатомия "галлюцинации"Начнём с выдуманного примера классического диалога:Пользователь:Кто написал роман «Солярис» в 1972 году?ИИ:
Доверие к искусственному интеллекту. Психолог, учитель, воспитатель твоих детей
Пока государственные системы здравоохранения порождают длинные очереди, неразбериху и рост затрат – люди обращаются к машинам. Масштабное глобальное исследование выявило кардинальный сдвиг в общественном доверии к искусственному интеллекту. В исследовании участвовала 31 000 взрослых из 35 стран. Результат: 41% взрослых жителей Великобритании и 61% во всем мире чувствуют себя комфортно, используя ChatGPT для когнитивного аутсорсинга. Последствия? Уже на горизонте.
