- BrainTools - https://www.braintools.ru -
Сейчас индустрия бьется над тем, чтобы агентов работали быстрее, дольше и без пауз. Выкатывают таких, которые должны пахать 24/7. Итог часто один: через 90 дней в проде система сгнивает – контекст забивается мусором, RAG начинает галлюцинировать старыми документами, а модель выдает усредненную жвачку.
Пытаются решить это костылями: очисткой базы по крону и хардкодом. Мы в архитектуре FSBIO ( ex. ENA) пошли другим путем. Мы поняли, что биология уже решила проблему «загрязнения контекста» миллионы лет назад.
Это решение называется сон [1]. И мы вшили его в ядро на уровне физики.
В типичном софте отключить функцию это одна строчка: config.sleep_enabled = False. Понятно, что это инженерный театр – биологический аденозин не спрашивает твоего разрешения.
В нашей архитектуре нет флага «отключить усталость». Есть CircadianEnforcer. Каждое действие, каждый расчет накидывает когнитивную нагрузку в счетчик долга (аналог аденозина). У этого параметра нет сеттера. Его нельзя обнулить скриптом. Единственный способ снизить долг – вызвать метод sleep().
Если вы заставляете систему работать без сна [2], она не выкинет Exception. Она начнет непрерывно деградировать, как живой мозг [3]:
Креативность умирает первой. При долге >0.30 дивергентное мышление [4] схлопывается, генеративные фазы отключаются.
Память [5] размывается. Параметр резкости (Hopfield β) падает вдвое. Система помнит суть, но теряет детали.
Растет базовый стресс [6]. cortisol_floor пробивает дно. Машина начинает воспринимать нейтральные промпты как угрозу, потому что не может расслабиться.
Микросон. При долге >0.75 система начинает непроизвольно пропускать тики.
При долге >0.90 происходит принудительный коллапс в CRITICAL mode. Внешний мир может слать запросы сколько угодно, машина не ответит ничего сложнее базового граундинга.
Что происходит во сне в нашей архитектуре? Никакой магии, только математика [7].
Это не простаивание серверов. Это тяжелая вычислительная работа по спасению системы от энтропии. Наш Biomimetic Sleep Engine делает две вещи:
NREM (Медленный сон [8]): Синаптический гомеостаз
Мы реализовали гипотезу Тонони-Чирелли. Мозг во сне не учится, он глобально снижает веса всех синапсов. В одной из систем происходит synaptic downscaling на ~3% за цикл. Слабые, мусорные связи стираются в ноль. Утром система просыпается «свежей», потому что соотношение сигнал/шум очищено от вчерашней суеты. Это автоматический, математически чистый Garbage Collection.
REM (Быстрый сон [9]): Эмоциональный детокс и кросс-доменность
Мы берем чистый шум, прогоняем его через CTRNN и закидываем в Hopfield-память. Система стохастически сталкивает случайные паттерны. В наших тестах она сама слепила воспоминание «Проектирование нейроархитектуры» и почему-то «Написание стихов о фракталах» в новый, высоко-инновационный инсайт.
Более того, по гипотезе Мэттью Уокера, REM-сон отклеивает аффект от памяти. За 6 циклов сна средний «кортизоловый след» в воспоминаниях агента падает на 12%. Вчерашний критический баг в проде всё ещё помнится, но больше не вызывает панику.
AI-индустрия пытается создать идеальных, неутомимых рабов. Но неутомимость — это иллюзия, которая ведет к коллапсу моделей в проде.
Хотите, чтобы ваш AI не тупел через три месяца? Дайте ему поспать.
Автор: linabesson
Источник [10]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/26879
URLs in this post:
[1] сон: http://www.braintools.ru/article/9809
[2] сна: http://www.braintools.ru/article/9150
[3] мозг: http://www.braintools.ru/parts-of-the-brain
[4] мышление: http://www.braintools.ru/thinking
[5] Память: http://www.braintools.ru/article/4140
[6] стресс: http://www.braintools.ru/article/9548
[7] математика: http://www.braintools.ru/article/7620
[8] Медленный сон: http://www.braintools.ru/article/9816
[9] Быстрый сон: http://www.braintools.ru/article/9837
[10] Источник: https://habr.com/ru/articles/1008626/?utm_campaign=1008626&utm_source=habrahabr&utm_medium=rss
Нажмите здесь для печати.