VIVI: попытка вырастить когнитивный интеллект, а не обучить его

Большинство современных ИИ-систем получают знания «готовыми». Их учат на огромных корпусах, а потом донастраивают. Результат впечатляет, но внутри почти всегда лежит одна и та же идея: интеллект ^[1] — это следствие заранее вычисленных весов и статистики.

Я пошёл другим путём.

Цель проекта VIVI — создать систему, которая развивается подобно живому существу. Не хранит заранее готовые знания. Не опирается на огромную предобученную языковую модель. Интеллект должен возникать постепенно — из накопления опыта ^[2], формирования памяти ^[3], самоорганизации знаний, появления понятий и внутренней модели мира.

Главный принцип простой:

Интеллект — это следствие структуры памяти, а не заранее вычисленных математических весов.

Что именно пытаюсь получить

К концу проекта VIVI должна уметь:

• самостоятельно воспринимать текст (а позже — изображения и звук);

• иметь несколько видов памяти: рабочую, долговременную, эпизодическую, семантическую;

• искать ассоциации ^[4], строить цепочки рассуждений, делать выводы и объяснять их;

• замечать пробелы в знаниях и задавать уточняющие вопросы вместо «не знаю»;

• планировать действия, оценивать результаты и учиться на ошибках;

• понимать, что она знает, чего не знает и чему только что научилась.

Это не чат-бот и не очередная языковая модель. Это попытка построить когнитивную архитектуру, в которой интеллект формируется из опыта.

Как идёт разработка

Можно описать примерно так «ребёнок → подросток → взрослый», через развитие когнитивных функций. Каждый следующий этап обязан удовлетворять трём условиям:

1. не ломать уже работающие механизмы;

2. уменьшать количество жёстко прописанной логики;

3. переносить принятие решений внутрь самой системы знаний.

Сейчас уже реализованы и работают:

• понимание входящего текста без жёстких правил вида «если начинается с…»;

• разбор предложений в структуру события (кто, что сделал, над кем, когда, зачем); (в дальнейшем планируется убрать полностью)

• рабочая память, которая удерживает несколько связанных мыслей;

• механизм внимания ^[5], усиливающий нужные связи и подавляющий лишние;

• градуированное отношение к знаниям: уверенный факт, слабое утверждение, конфликт ^[6], гипотеза, отвергнутое знание;

• разрешение противоречий через опыт похожих объектов, а не через простое удаление;

• появление обобщающих правил из наблюдений;

• наследование свойств;

• объяснение, почему система приняла или отвергла утверждение;

• зачаток любопытства: если знаний недостаточно, система формулирует вопрос, а не отмалчивается.

Важный момент: ложное знание не стирается. Оно ослабевает, получает статус с начало «слабо» потом «отвергнуто»,но остаётся в памяти как история опыта.

Пример: как система учится на противоречии

Вот реальный фрагмент работы.

Вы: собака это животное
Поняла: СОБАКА — это животное
Вы: собака это растение
Запомнила, но есть конфликт: СОБАКА уже связывали с животное; 
теперь ещё с растение. Оба знания в памяти.
Вы: собака имеет лапы
Вы: собака имеет хвост
Вы: кошка это животное
Вы: кошка имеет лапы
Вы: кошка имеет хвост
Вы: хомяк это животное
Вы: хомяк имеет лапы
Вы: хомяк имеет хвост
Вы: кто такая собака
Собака — это животное (уверенно); наверно растение — данные слабые/спорные.

Система держит оба утверждения. Одно пока сильнее, второе ослаблено из-за добавления кошка и хомяк, но не стёрто.

Дальше происходит «сон» — период, когда система анализирует накопленный опыт:

Вы: сон
Правило: животное ≠ растение
Ослаблено: СОБАКА → РАСТЕНИЕ
Вы: кто такая собака
Собака — это животное (уверенно)

Противоречивое знание ушло из ответа, но осталось в памяти как история. Появилось обобщающее правило уровня категории.

Теперь новый объект:

Вы: лев имеет лапы
Вы: лев имеет хвост
Вы: лев это растение
Нет: ЛЕВ скорее «животное», а не «растение».
  Почему:
    • похожие объекты → животное
    • правило: животное ≠ растение
    • вывод: ЛЕВ не растение
Вы: кто такой лев
Точного определения для «лев» пока нет.
  Ассоциации: лапа, хвост
  Возможно: животное (как собака: лапа, хвост)

Система не записала «лев — животное» как твёрдый факт. Она отказалась от ложного утверждения и выдвинула гипотезу. Это осторожное поведение ^[7] — важная черта.

Добавляем еще одно понятие:

Вы: животное это живое существо
Вы: кто такая собака
Собака — это животное (уверенно)
  Также следует: живое существо (через животное)

Появляется производный вывод. Система не просто хранит прямые связи — она умеет связывать данные.

Как система понимает предложения

Переходим к разбору событий.

Вы: пастух завтра пойдет пасти овец
Событие: кто: пастух, что: пойти, что/кого: овца, когда: завтра
Вы: когда пастух пойдет пасти овец
Когда: завтра
Вы: кто пойдет пасти овец
Кто: пастух
Вы: кого пойдет пасти пастух
Кого: овца
Вы: вчера друг поймал волка
Событие: кто: друг, что: поймать, что/кого: волк, когда: вчера
Вы: что произошло вчера
вчера друг поймать волк
вчера брат поймать волк   (если брат тоже ловил)

Фраза перестаёт быть цепочкой слов. Она становится событием с ролями. Система удерживает несколько таких событий в рабочей памяти и может отвечать на вопросы по ним, не смешивая прошлое и будущее.

Что уже видно на практике

• Знания имеют силу и статус, а не просто «есть / нет».

• Конфликт не разрушает память, а становится материалом для обучения ^[8].

• Обобщения появляются из опыта, а не из заранее прописанных правил.

• Система может объяснить путь своего вывода.

• Эпизодическая память хранит события с ролями и позволяет отвечать на вопросы «кто», «кого», «когда», «что произошло».

• Рабочая память удерживает несколько связанных мыслей одновременно.

• Появился механизм любопытства: вместо «не знаю» система формулирует, чего именно ей не хватает.

• Новый объект с похожими признаками сначала получает гипотезу, а не готовый ярлык.

Всё это работает без внешней большой языковой модели в качестве «мозга».

Главные риски и ограничения

Задача очень большая. Главный риск — архитектурное усложнение и накопление программного долга. Нельзя бесконечно добавлять механизмы. Нужно постепенно превращать компоненты в единую систему с чёткими границами ответственности.

Сейчас продумываю четкий план как двигаться к более глубокому планированию и любопытству.

VIVI — это попытка создать самостоятельный цифровой разум, который не получает готовое мышление ^[9] от внешней нейросети, а формирует собственную память, знания, связи, опыт и способность действовать