ai.
Поднимаем Llama 3 в облаке: Ollama и Open WebUI
Локально запустить LLM сегодня можно за десять минут — например, с помощью LM Studio. Но как только модели нужно дать доступ команде, подключить RAG или встроить ее в сервис — такого подхода зачастую недостаточно.
RAG-Anything: Как собрать по-настоящему мультимодальный RAG
Существует множество достойных RAG-фреймворков, проверенных на многочисленных бенчмарках, так что точность работы системы в современных реалиях - не такая большая проблема. Однако, для любого, кто сталкивался с прикладной интеграцией RAG в рабочие пайплайны, не секрет, что рано или поздно сталкиваешься с постобработкой многочисленных форматов. Комбинируешь OCR, парсеры, ридеры…RAG-Anything устраняет ненужные телодвижения.
Масштабирование LLM: от одного чипа до ЦОДа. Глава 3. Сколько ресурсов нужно для LLM?
Это продолжение цикла статей о масштабировании тренировки и инференса LLM. Предыдущая главаСчитаем количество операцийА теперь перейдем к чему-то более практическому, а именно к тому, сколько нужно FLOPs и байт для работы трансформера, той самой архитектуры, которая лежит в основе практически всех современных LLM. Подразумевается, что у вас уже есть представление о том, что такое архитектура трансформера, как работает механизм внимания и т.д.Давайте начнем с векторов x, y и матриц A, B, имеющих вот такие размеры, допустим один элемент занимает при этом один байт.
Загадочная поэма древнего Китая, работающая как компьютер
Этой поэме 1700 лет. И она фактически непереводима ни на один существующий язык мира. А все потому что она может генерировать стихотворения сама на древнекитайском, будучи прочитанной в особом порядке.
Как мы строим «человеко-агентную» организацию: приглашаем на честный разговор 27 мая
Человеко-агентная организация: новая парадигма
Что ломает real-time во фронтенде, как приручить WebRTC и при чём тут AI?
Разберёмся в этом на Frontend Mix — бесплатном митапе от ЮMoney для фронтенд-разработчиков и всех, кто в теме. В программе:Как браузер усыпляет вкладки и почему из-за этого ломается real-time. Покажем, как дебажить такие проблемы и чинить их в продакшене. А ещё у нас есть пролог к выступлению — статья от Кости, спикера и программиста ЮMoney, о том, как спят вкладки браузера.
ИИ в тестировании: зачем мы пошли в пилот и почему начали с чата, а не с агентов
Всем привет! Меня зовут Алена Метенева, я руководитель направления по тестированию в Росгосстрахе. Я специализируюсь на внедрении ИИ-инструментов в процессы тестирования. И сегодня хочу рассказать вам о том, как мы в Росгосстрахе провели пилот по внедрению нейросетей в тестирование и как сейчас масштабируем результаты на другие команды.

