AnythingLLM: чат по своим документам без подписки OpenAI
Представьте, вот у вас на диске папка с договорами, сотня PDF, конспекты и внутренняя документация. Вы открываете ChatGPT, загружаете один файл — он его читает. Загружаете больше — контекст переполняется, или файл банально теряется. А если файлов десять? Двадцать? Подписка стоит денег, из России нужен VPN, и даже с ним модель не знает, что написано в ваших таблицах, пока вы не скормите ей всё вручную.
Anything LLM для каждого [бизнеса]
Привет!Нужен LLM? Если для себя лично можно как-то извернуться и купить подписку на ChatGPT, Claude или Gemini, то для бизнеса это не так-то просто. И я сейчас говорю не про зарубежные карточки, а про разделение доступа и локальное хранение чувствительных данных компании.Передо мной встала задача обеспечить моим клиентам локальную LLM, в которую можно закидывать любые документы и получать по ним ответы. Как водится, бюджета на это не выделили. Нужна демоверсия в боевом режиме для нескольких сотрудников, чтобы оценить профит.
Telegram-бот с интеграцией AnythingLLM + LM Studio
ОглавлениеВведениеАрхитектура проектаНастройка окруженияAPIПримеры использованияЗаключение
