Что такое контекстное окно и почему модели забывают
Ты час разговариваешь с ChatGPT. Даёшь контекст, объясняешь задачу, уточняешь детали. А потом модель вдруг начинает противоречить тому, что говорила раньше. Забывает имя персонажа которое ты указал в самом начале. Спрашивает то, о чём вы уже договорились.Первая реакция - что-то сломалось. Но это не баг. Это фундаментальное ограничение архитектуры, у которого есть название и объяснение.Модель не помнит - она читаетГлавное заблуждение про языковые модели - что у них есть память. Что где-то внутри хранится история ваших разговоров, и модель к ней обращается.Это не так.
Почему память агентов должна храниться у вас
Есть странная мысль, от которой сложно отмахнуться: если у человека отобрать воспоминания, от него останется сильно меньше, чем кажется.С агентами похожая история. Агент без памяти каждый раз начинает с нуля. Он может быть умным, быстрым, вежливым, подключенным к 15 инструментам, но он не знает, кто вы, как вы работаете, что уже было решено, где вы обожглись, какие темы лучше не трогать, какие слова вас бесят, как устроены ваши проекты.И если вся эта память живет у провайдера модели, вы фактически отдаете ему кусок своей рабочей личности.Я не про жадность. Я про контроль.Память агента быстро становится активом
19-летний стартапер разработает системы памяти на основе ИИ
19-летний основатель стартапа Supermemory Дхравья Шах занимается разработкой систем памяти на основе искусственного интеллекта. Он получил поддержку от руководителей Google и других ИИ-компаний.
