AI Sous-chef: как мы собрали приложение с облачными моделями и вынесли промпты из кода
Представьте: открываете холодильник — морковь, йогурт, яблоко. На полке арахисовое масло. Продукты есть, но что из этого приготовить? Можно искать рецепты и проверять, хватает ли ингредиентов. А можно сфотографировать продукты и попросить приложение предложить варианты.Такой сценарий мы выбрали для командного проекта AI Sous-chef. Пользователь фотографирует продукты или вводит их списком, а сервис предлагает блюда и шаги приготовления. За два с половиной месяца мы выпустили Android-приложение и Telegram-бота.
Как мы строили и улучшали LLM‑слой для общения с покупателями
Мы начали с бота, который должен был снять с поддержки рутинные напоминания. Затем добавили языковую модель, научились учитывать смысл ответов покупателей и собрали каскад из двух судей и арбитра. По обновлённой сводке экспериментов совпадение действий с разметкой выросло с 74% до 84%, а общее число ошибок сократилось на 38% при примерно прежней средней стоимости решения.
Научи плохому или почему я против промптинга
Недавно мне потребовалось объяснить 17-летнему парню законы диалектики Гегеля. Уточню: не просто пересказать их, а именно объяснить так, чтобы он обязательно понял. Да так понял, чтобы сразу стал богатым и успешным.«Нейросеть может объяснить каждому просто» — говорили ониВ рекламах нейросетей часто можно увидеть, что ИИ способен объяснить любую сложную информацию так, чтобы её понял каждый: школьник, младенец, дедушка Вова из деревни, для которого ИИ это просто заевший звук. В общем, в зависимости от его возраста, задач и уровня образования.Как бы не так!
Учимся отличать галлюцинации от плохого контекста
Привет, Хабр!Меня зовут Андрей Бирюков. Я — независимый эксперт в области ИТ и ИБ, преподаю в учебных центрах и пишу статьи и книги.Когда RAG-система выдаёт утверждение, которого нет в источниках, мы обычно называем это «галлюцинацией». Но очень часто за этим симптомом скрываются принципиально разные сбои, и путать их означает лечить не ту болезнь.Модель, к примеру, могла проигнорировать релевантный контекст или не получить его вовсе. А могла сгенерировать ответ из параметрической памяти и задним числом подобрать «подходящую» цитату.
Новинка: «LLMOPs. Практическое руководство»
Привет, Хабр!Сегодня расскажем вам о самой уникальной из наших октябрьских новинок: книге «LLMOPs. Практическое руководство». Автор этой книги, Никита Горячев, как многие из наших авторов и, уверены, многие из вас, уважаемые читатели, собирал у себя на Гитхабе
Почему LLM игнорирует системный промпт: история диалога сильнее инструкций
Знакомая ситуация: в системном промпте четко написано, чего модель делать не должна ни в коем случае, а она все равно это делает. Вы переписываете правило, добавляете «ВАЖНО», капслок и примеры, становится чуть лучше, а потом снова за старое. В какой‑то момент начинаешь подозревать модель, ее настройки (например, температуру) или провайдера.
Few-shot: пристрелочная для ИИ-агента
Я регулярно использую GLM как рабочую модель — «молотилку», которой можно отдавать большой объём реализации. Смысл понятен: не каждая задача требует самой дорогой frontier-модели. Если архитектура определена, требования собраны, а результат можно проверить, основную работу должна выполнять более дешёвая модель.Для этого мы уже используем GRACE
Токеномика для самых маленьких
Кажется, мы довольно быстро привыкли к тому, что с нейросетью можно разговаривать почти как с человеком. Попросить написать код, пересказать статью, разобраться в документах. Потом уточнить. Потом ещё раз уточнить, потому что она опять сделала что-то не то.
От отдела к компании: как объединить ИИ-навыки
В первой статье я рассказывал о навыках для ИИ. В таком навыке мы собираем инструкции для работы, которую регулярно ему поручаем, чтобы каждый раз не объяснять всё заново. На примере подготовки поездки разобрали, как распределить эти инструкции между специалистами. Один занимается маршрутом, другой считает расходы, а руководитель выбирает, чьи инструкции нужны для нашего запроса.
Как мы внедряли LLM в модерацию Авито
Привет! Меня зовут Руслан Сакаев, я DS-тимлид в Авито. В статье расскажу, как мы внедряли LLM в проверки объявлений и что пришлось достроить вокруг модели, чтобы решение выдержало продакшен.Статья будет полезна DS/ML-инженерам, MLOps и техническим руководителям, которые уже поняли, что LLM закрывает их задачу, но пока не знают, как обернуть это в готовое продакшн-решение.В этой статьеЗадача и ограниченияПочему LLM хорошо работает в задачах модерации

