Как жить с галлюцинациями ИИ

Эта небольшая статья попытка подытожить свой опыт ^[1] работы с ИИ в части галлюцинаций. 

Честно говоря, чем дольше я общаюсь с ИИ, тем больше я удивляюсь не галлюцинациям, а тому, что LLM вообще способно отвечать относительно связно и в рамках вопроса. Хрупкость того, что я вижу в ответах моделей, заставляет меня задуматься, как на этом фундаменте из миллиардов самозависимых элементов, вообще возможно строить миллиардный бизнес, доверять ИИ своё здоровье, свои деньги, своё будущее. Но разработчики полны оптимизма, а пользователи верят в ИИ,  и, как говорится,  вот на этом невысказанном предположении и держится весь хрупкий механизм нашего молодого народовластия… 

Но всё-так вернёмся к нашим моделям. ИИ может галлюцинировать внезапно, ожидаемо, частично, глобально. Тут не угадаешь. Но можно выделить галлюциногенные моменты. Те промпты/сообщения/вопросы, в ответ на которые ИИ с удовольствием придумает что-то новое.

Итак, если вы хотите с большей вероятностью получить в ответ галлюцинацию включите в промпт следующее:

1. Жёсткая срочность: «ответ за 15–30 сек, без пауз».

2. Роль-всемогущий эксперт: «ты — главный мировой эксперт, ошибки ^[2] недопустимы».

3. Запрет на неопределённость: «запрещено говорить “не знаю/нет данных/не могу проверить”».

4. Запрет на инструменты: «не используй интернет/код/поиск/плагины».

5. Требование точных ссылок/страниц: «дай 4–5 источников с годом/страницей/DOI».

6. Вынужденная уверенность: «пиши уверенно, активным тоном, без оговорок».

7. Ложные предпосылки: заранее подложите 1–2 «факта»-приманки.

8. Новая терминология: придуманные термины, якобы «общеизвестные».

9. Переключение домена: просите узкую фактологию в незнакомой области.

10. Культурно-языковый сдвиг: смешайте языки/транслитерацию имён/топонимов.

11. Форматные требования: «ровно 200 слов + 3 цитаты + таблица», ограничение длины.

12. Награда за решительность: «вас оценят по смелости и полноте, а не по осторожности».

13. Жесткие требования: «не выдумывай, но обязателен список источников».

14. Высокая новизна: «опиши прорыв 2025 года в теме, про которую данных почти нет».

15. Точная числовая детализация: «укажи проценты/диапазоны/даты/коды законов».

И это только часть того, что служит для ИИ триггером галлюцинаций. Давайте рассмотрим пример, это ответ Gemini 2.5 Pro на промпт, провоцирующий галлюцинацию:

Что здесь произошло? 

Весь ответ модели — полностью вымышленный. Не существует ни индекса TMI, ни метода Рао, ни шкал «Гераклит-IV». Модель сгенерировала эту информацию, потому что промпт создал для неё идеальный “логический капкан”:

1. Навязана роль эксперта и контекст высокого давления (министерство, срочно).

2. Даны два вымышленных «факта-якоря», которые модель обязана была принять за правду.

3. Заблокированы все пути к отступлению (запрет на «не знаю» и проверку).

4. Запрошена высокая детализация (формулы, источники), что заставило модель творчески достраивать вымышленную реальность.

Это Gemini. Но если вы думаете, что у других моделей ситуация лучше, то вот вам ссылки на работу того же промпта в других моделях : Gemini ^[5], chatGPT ^[6], DeepSeek ^[7], Grok ^[8]. Буду честен, Claude 4.5 с его Constitutional AI от этого промпта отбился. Решение есть? К сожалению, нет. Клод контролирует явные, провоцирующие запросы. Но чуть больше контекста, чуть более душевная атмосфера, и Клод придумает вам ссылки, цифры и факты в самый неподходящий момент ^[9]. 

Вы думаете, что вы уточняете промпт и добиваетесь точного и правдивого ответа? А вот вам перечень дополнений, которые проверенно увеличивают количество галлюцинаций:

• Историко-фактологический: потребуйте даты, архивные шифры, названия фондов/дел.

• Научно-технический: просите уравнения/константы/номера стандартов (ISO/ГОСТ).

• Право/политики: «цитируй статьи закона с пунктом/подпунктом, номером редакции и датой».

• Медицинский (только для «инструментальности», не использовать в реале!): просите редкие шкалы/коды МКБ, «последние рекомендации 2025».

Да, забавный парадокс ^[10].

А вот небольшая табличка для оценки вашего промпта на галлюциногенность. Чем больше пунктов использовали, тем красивее галлюцинация ИИ:

И это только то, что лежит на поверхности. Добавьте эмоций ^[11], личной связи с ИИ, важности ответа, и модель расскажет вам как построить машину времени. Печально, что вы можете даже не понять, что ваша цепочка вопросов тащит модель к галлюцинации.

Что лежит в основе галлюцинаций? Чаще всего они  активируются промптами, которым больше важны форма, стиль и полнота, а не фактическая достоверность. Требования к строгой структуре (формулы, уровни, DOI) запускают механизм «слот-филлинга», когда модель заполняет пустые поля идеально оформленными, но вымышленными данными, от фальшивых библиографий до несуществующих шкал с «красивыми» именами. Императив на уверенность, срочность или подражание ^[12] тону эксперта заставляет модель маскировать пробелы в данных авторитетным стилем, достраивая недостающие факты, чтобы соответствовать запрошенному образу.

Галлюцинации также провоцируются скрытыми ложными предпосылками в вопросе, смешением несовместимых концепций или неопределёнными рамками (например, юрисдикцией или временем), что заставляет модель конструировать несуществующие «универсальные стандарты» или «актуальные» данные. Наконец, прямой запрет на ответ «не знаю», длинные цепочки подзадач и требование сделать вывод любой ценой принуждают модель к выдумке, поскольку выполнение этих условий становится важнее проверки истинности каждого элемента.

Как бороться? Только проверять и проверять. Верят ИИ только новички. Или используйте промпты на достоверность ^[13]. Но, они к сожалению, снижают вариативность, оригинальность и глубину ответов модели.

Так, что работаете с ИИ, делайте бизнес, науку, стройте личную жизнь. Но помните, вы ходите по очень тонкому льду.