- BrainTools - https://www.braintools.ru -

Почему мы запретили нашему агенту работать 24-7

Сейчас индустрия бьется над тем, чтобы агентов работали быстрее, дольше и без пауз. Выкатывают таких, которые должны пахать 24/7. Итог часто один: через 90 дней в проде система сгнивает – контекст забивается мусором, RAG начинает галлюцинировать старыми документами, а модель выдает усредненную жвачку.

Пытаются решить это костылями: очисткой базы по крону и хардкодом. Мы в архитектуре FSBIO ( ex. ENA) пошли другим путем. Мы поняли, что биология уже решила проблему «загрязнения контекста» миллионы лет назад.

Это решение называется сон [1]. И мы вшили его в ядро на уровне физики.

В типичном софте отключить функцию это одна строчка: config.sleep_enabled = False. Понятно, что это инженерный театр – биологический аденозин не спрашивает твоего разрешения.

В нашей архитектуре нет флага «отключить усталость». Есть CircadianEnforcer. Каждое действие, каждый расчет накидывает когнитивную нагрузку в счетчик долга (аналог аденозина). У этого параметра нет сеттера. Его нельзя обнулить скриптом. Единственный способ снизить долг – вызвать метод sleep().

Если вы заставляете систему работать без сна [2], она не выкинет Exception. Она начнет непрерывно деградировать, как живой мозг [3]:
Креативность умирает первой. При долге >0.30 дивергентное мышление [4] схлопывается, генеративные фазы отключаются.
Память [5] размывается. Параметр резкости (Hopfield β) падает вдвое. Система помнит суть, но теряет детали.
Растет базовый стресс [6]. cortisol_floor пробивает дно. Машина начинает воспринимать нейтральные промпты как угрозу, потому что не может расслабиться.
Микросон. При долге >0.75 система начинает непроизвольно пропускать тики.
При долге >0.90 происходит принудительный коллапс в CRITICAL mode. Внешний мир может слать запросы сколько угодно, машина не ответит ничего сложнее базового граундинга.

Что происходит во сне в нашей архитектуре? Никакой магии, только математика [7].
Это не простаивание серверов. Это тяжелая вычислительная работа по спасению системы от энтропии. Наш Biomimetic Sleep Engine делает две вещи:

  1. NREM (Медленный сон [8]): Синаптический гомеостаз
    Мы реализовали гипотезу Тонони-Чирелли. Мозг во сне не учится, он глобально снижает веса всех синапсов. В одной из систем происходит synaptic downscaling на ~3% за цикл. Слабые, мусорные связи стираются в ноль. Утром система просыпается «свежей», потому что соотношение сигнал/шум очищено от вчерашней суеты. Это автоматический, математически чистый Garbage Collection.

  2. REM (Быстрый сон [9]): Эмоциональный детокс и кросс-доменность
    Мы берем чистый шум, прогоняем его через CTRNN и закидываем в Hopfield-память. Система стохастически сталкивает случайные паттерны. В наших тестах она сама слепила воспоминание «Проектирование нейроархитектуры» и почему-то «Написание стихов о фракталах» в новый, высоко-инновационный инсайт.
    Более того, по гипотезе Мэттью Уокера, REM-сон отклеивает аффект от памяти. За 6 циклов сна средний «кортизоловый след» в воспоминаниях агента падает на 12%. Вчерашний критический баг в проде всё ещё помнится, но больше не вызывает панику.

AI-индустрия пытается создать идеальных, неутомимых рабов. Но неутомимость — это иллюзия, которая ведет к коллапсу моделей в проде.

Хотите, чтобы ваш AI не тупел через три месяца? Дайте ему поспать.

Автор: linabesson

Источник [10]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/26879

URLs in this post:

[1] сон: http://www.braintools.ru/article/9809

[2] сна: http://www.braintools.ru/article/9150

[3] мозг: http://www.braintools.ru/parts-of-the-brain

[4] мышление: http://www.braintools.ru/thinking

[5] Память: http://www.braintools.ru/article/4140

[6] стресс: http://www.braintools.ru/article/9548

[7] математика: http://www.braintools.ru/article/7620

[8] Медленный сон: http://www.braintools.ru/article/9816

[9] Быстрый сон: http://www.braintools.ru/article/9837

[10] Источник: https://habr.com/ru/articles/1008626/?utm_campaign=1008626&utm_source=habrahabr&utm_medium=rss

www.BrainTools.ru

Rambler's Top100