llm. - страница 41

llm.

RAG в медицинской аналитике: как построить управляемый контур вместо очередного чат‑бота

Эта публикация подготовлена на основе моей ВАК‑статьи «Методологический подход к применению Retrieval‑Augmented Generation в медицинской аналитике для развития интеллектуальной поддержки деятельности медицинской организации». Для Хабра я убрал академическое оформление, сократил обзор литературы и подробнее объяснил практическую архитектуру, ограничения и способ оценки такого решения.

продолжить чтение

Новый голосовой режим ChatGPT на GPT-Live-1: возможности, проблемы и лайфхаки

В июле 2026 года OpenAI заметно изменила голосовой режим ChatGPT и запустила GPT-Live-1 — модель для более естественного разговора в реальном времени.Теперь ChatGPT умеет слушать во время собственной речи, реагировать на перебивания, ждать окончания мысли, работать с веб-поиском, памятью, текстом и изображениями в одном диалоге. Сложные вопросы он при необходимости может передавать более мощной модели для отдельного анализа.Но вместе с этим появились и новые особенности: Live может отлично держать длинный контекст, а через минуту внезапно перейти на «угу», перебить пользователя или додумать то, чего он не говорил.

продолжить чтение

Код‑ревью в эпоху ИИ: 7 ошибок, ведущих к инцидентам

Материал подготовлен в преддверии старта курса «ИИ для разработчиков».Всем привет, меня зовут Сергей Прощаев и в этой статье расскажу про ревью кода, созданного ИИ, и про то, почему AI Code Review так часто не спасает. Я Tech Lead и руководитель направления Java | Kotlin разработки в FinTech & E‑commerce, преподаю на курсах разработки и архитектуры в ОТУС.Типичный сценарий, который я всё чаще вижу в командах, выглядит так. Разработчик ставит задачу

продолжить чтение

Как мы автоматизировали перевод скриншотов в документации

Привет! Меня зовут Глеб Смольяков, я инженер-программист в DevRel-отделе Битрикс24. 

продолжить чтение

От задачи до MR: как устроен конвейер разработки с ИИ-агентами в «Первой Форме»

ИИ-агент может за минуты подготовить изменение, на которое у разработчика прежде уходил час. Но ускорение написания кода создаёт другую проблему: растёт нагрузка на проверку. Нужно изучить diff, понять предположения агента, проверить затронутые компоненты и убедиться, что решение соответствует задаче, а не просто проходит формальные проверки.Почему агент выбрал этот модуль? Какие связанные части системы изучил? Какие варианты отбросил? На какие требования и результаты проверок опирался? Если этот контекст остаётся в закрытой сессии, следующему участнику процесса приходится собирать его заново.

продолжить чтение

Масштабирование LLM: от одного чипа до ЦОДа. Глава 5. Инференс

Предыдущая главаНу и наконец рассмотрим, как нам применить обученный трансформер. И применение уже обученной модели сильно отличается от тренировки, потому что теперь приходится учитывать еще один фактор - задержку. Так что давайте разбираться, как устроен инференс LLM и как его правильно масштабировать.Основы инференсаИтак, мы натренировали трансофрмер и теперь хотим использовать его по назначению - принимать на вход промпт и генерировать в ответ всякие разные новые последовательности токенов/букв.

продолжить чтение

GigaChat 2 Max с памятью на связях обходит Claude Opus 5 без неё: замер семи моделей

Кратко: на классе задач «в работе всплыла проблема — каким изменением её уже чинили»:GigaChat 2 Max с памятью на связях отвечает верно в 57% случаев,YandexGPT Pro 5.1 — в 61%,Claude Opus 5 с обычным поиском — в 41%.Модели никто не трогал: разница целиком в том, доехал ли до модели нужный факт в контексте.

продолжить чтение

От детерминированного хаоса к устойчивости: как управлять поведением многоагентных систем

продолжить чтение

753B на одной видеокарте: разбор FreeToken

Чувак из Калифорнии вряд ли запускает это все на таком ноутбуке

продолжить чтение

Сложность через сжатие. Разбираю проект нейросимвольного ИИ Сергея Шумского

Инженеров раздражает крайне низкая интерпретируемость нейросетей на базе трансформеров. Бизнес раздражает отсутствие гарантий правильного ответа. И всех пользователей весьма беспокоят галлюцинации LLM.Именно поэтому исследователи работают над альтернативными архитектурами ИИ, пытаясь устранить недостатки LLM. Одно из направлений таких исследований, это использование принципов символьного ИИ.В этой статье я рассматриваю концепцию кандидата физико-математических наук, известного IT-исследователя Сергея Шумского.Символьный ИИ

продолжить чтение