Записать — не значит вспомнить: месяц внешней памяти для ИИ-агента
Однажды я потерял чат. Не то чтобы катастрофа — обычная рабочая сессия по проверке студенческих домашек. Экспорт я не делал, в лог ничего не писал. И чат пропал. Скорее всего, я сам его и удалил, но точно уже не вспомню.
Эксперименты с Радиантом: память агента против окна в миллион токенов
Привет! Меня зовут Глеб Смольяков, я инженер-программист в DevRel-отделе Битрикс24.
ИИ: личный опыт без хайпа. Часть 0. Термины, связи и устройство
Обложка цикла «ИИ: личный опыт без хайпа»Введение
Строили ANN руками — когда это того стоило, а когда нет
Сразу отвечаю на вопрос, который вы задали бы в первом же комментарии: а почему не pgvector?Короткий ответ: ровно то, что pgvector делает хорошо — генерацию кандидатов (найти top‑k ближайших по косинусу) — мы и советуем отдавать pgvector, если он у вас есть. Свой ANN мы написали, потому что (1) pgvector есть не везде, где должна работать наша память, и (2) самое ценное в нашей задаче — вообще не генерация кандидатов. Про это вся статья, так что давайте по порядку.
Почему мы не написали ещё один Bad CaRMa
«Bad CaRMa» — глава из Dreaming in Code Скотта Розенберга (каламбур на CRM и «карму») про CRM-систему Vision в компании Upstart. Архитектор задумал предельно гибкую схему: одна-единственная таблица DATA, куда сложили все 150+ бизнес-сущностей — 240+ колонок с именами вроде string82 и numeric31, метаданные и данные вперемешку. Схему ведь больше «никогда не придётся менять».
