ИИ для генерации текста, который не только сочиняет, но и критически оценивает свою работу. Его архитектура частично вдохновлена последними исследованиями нейробиологии мозга человека и приматов. Рассказываю, как это работает, какие вызовы преодолел и почему иногда даже самый продвинутый код не может заменить настоящего скептика.
Каждый день миллионы людей взаимодействуют с ИИ, который генерирует тексты. От автоматических ответов в чатах до создания статей и сценариев — возможности кажутся безграничными. Но как часто мы задумываемся о том, насколько достоверен этот текст? Настоящий ли он? Или это всего лишь очень убедительно сгенерированная болтовня?
Я решил подойти к этой проблеме с другой стороны. Вместо того, чтобы просто создавать текст, попытался наделить ИИ элементами, которые делают наше мышление глубже: биологическим подобием процессов и врожденным скептицизмом.
Идея и вдохновение:
Проект начался с вопроса: а что, если ИИ будет генерировать текст не как “черный ящик”, а как будто мыслит похожими с нами путями?
Я изучил последние данные нейробиологии:
-
Какие частотные паттерны (дельта, тета, гамма-ритмы) связаны с концентрацией, памятью или творчеством?
-
Какие области мозга (дорсолатеральная префронтальная кора, височная доля) активны при логических построениях или социальном мышлении?
-
Как нейроны у человека и приматов устроены уникальным образом, отличаясь от того, что можно смоделировать в стандартных нейросетях?
Эта информация легла в основу симулятора нейронных паттернов. ИИ не просто знает об этих паттернах — он генерирует их, создавая виртуальные “отпечатки” активности мозга, связанные с разными когнитивными режимами: логическим мышлением, воображением, эмоциями, социальным интеллектом.
Реализация:
Я взял мощную языковую модель, предобученную на русском языке (sberbank-ai/rugpt3large_based_on_gpt2), и интегрировали в неё разработки.
Как это работает?
-
Симуляция: При запуске генерации система создает набор “нейронных паттернов”, соответствующих выбранному когнитивному режиму (например, “логическое мышление”).
-
Влияние на генерацию: Эти паттерны не просто украшают код. Они динамически корректируют параметры генерации — температуру и вероятность выборки (
top_p), делая текст потенциально более “логичным”, “креативным” или “эмоциональным”. -
Скептический анализ: Сразу после генерации текст проходит через собственный модуль
SkepticismAnalyzer. Он оценивает текст по множеству критериев:-
Лексическое разнообразие (похоже ли на человеческую речь?)
-
Структура предложений (есть ли логические связки?)
-
Эмоциональная окраска и личные отсылки.
-
Наличие “красных флагов” (например, подозрительно высокое разнообразие или полное отсутствие эмоций).
-
-
Результат: Пользователь получает не просто текст, а текст с оценкой его “естественности” и списком потенциальных проблем.
Вызовы и реальность:
Путь был тернист. Основные трудности:
-
Язык: Базовые модели
gpt2совершенно не годились для русского. Пришлось перейти на специализированную модель. -
Интеграция: Простое добавление “нейронных паттернов” в модель не дало эффекта. Пришлось искать способы косвенного влияния.
-
Качество: Даже с русской моделью добиться идеального “пошагового объяснения фотосинтеза” оказалось непросто. Иногда ИИ “отвечал” совершенно не тем.
Это показало важный урок: создание ИИ — это не только программирование, но и глубокое понимание того, как мы, люди, на самом деле думаем и обрабатываем информацию.
Заключение – Зачем это нужно:
Проект bio-inspired-skeptical-ai — это больше, чем просто генератор текста. Это эксперимент. Эксперимент по созданию ИИ, который:
-
Имитирует биологические процессы.
-
Сам критикует свой результат.
-
Тем самым повышает доверие к своей работе.
В будущем такие принципы могут лечь в основу более надежных и интерпретируемых ИИ-систем, особенно в чувствительных областях, где “естественность” и достоверность текста критически важны.
Ссылка на репозиторий: https://github.com/VohminV/bio-inspired-skeptical-ai/
Автор: vohmin
