Как мы дописываем оборванные ответы языковой модели и почему склейка оказалась сложнее, чем кажется
Мы делаем русскоязычный сервис с несколькими языковыми моделями в одном чате. Однажды партнёр прислал скриншот: модель начала отвечать списком из ста пунктов и оборвалась на середине слова. В админке лежал тот же обрывок. Ни ошибки, ни предупреждения.Почему ответ обрывается. У каждого запроса есть потолок max_tokens. У нас он был 1200 токенов. На английском это около 900 слов, а на русском кириллица съедает больше токенов, и 1200 токенов оказались примерно полутора тысячами знаков. Длинный список просто не помещался. Модель при этом возвращает finish_reason: "length" (у некоторых поставщиков max_tokens
Промпт — не контракт: замерил, как часто модель нарушает жёсткие правила, и вынес их в код
У меня в проде работает ИИ-консультант на сайте. У него есть два правила, которые нарушать нельзя вообще: не называть цены и не называть клиентов, которые под NDA. Оба правила были написаны в системном промпте капслоком, с объяснением почему.Я замерил, как они соблюдаются. Получилось так:правило «не называй цен» модель срывает примерно раз на восемь прогонов;имя клиента под NDA проскакивало раз на пять.
Как я собрал бота‑команду из 11 ИИ‑юристов и что под капотом пошло не так первым же смоук‑тестом
Полтора месяца назад мне пришла претензия на 44 тысячи рублей за фото восьмилетней давности на сайте нашего отеля — типичный «фотобанковский» иск с QR‑кодом, печатью и таблицей коэффициентов. Разбирался сам, с помощью Claude, закрыл спор на 20 тысячах вместо 44 без суда и без найма юриста. Написал об этом на VC.ru — сюда, на Хабр, тащить ту же историю смысла нет, тут расскажу, как это в итоге превратилось в бота и что было интересного технически: архитектура, пять реальных багов с продакшена и то, как я срезал расходы на Claude API почти на порядок.
Журналист раскритиковал магазин в Сан‑Франциско под управлением ИИ
Редактор Sfgate посетил магазин Andon Market в районе Кау‑Холлоу в Сан‑Франциско. В августе его передали под управление ИИ‑бота Luna. Журналист выявил множество недостатков в такой автоматизации, которые влияют не только на клиентский опыт, но и на прибыльность бизнеса.
Дневник разработчика Статейника. Часть 0: зачем я вообще в это полез
Это нулевая часть дневника о том, как я строил себе статейный комбайн из ИИ‑ботов. Дальше будут боты, грабли и дословные цитаты из переписок с ИИ — а пока их нет. Пока есть только я и рутина.Начну с того, что я всегда хотел писать статьи. Прямо всегда хотел и по‑своему любил. Первую профессиональную статью я написал году в 2009-м, когда только стартовал в интернет‑маркетинге: на фрилансерском сайте была возможность вести блог, и я расписывал там про важность клиентского сервиса для фрилансера. Семнадцать лет назад
ИИ убивает службу поддержки — даже несмотря на зелёные метрики
Привет! Я Сергей Козлов, директор CRM-системы «Мегаплан» и базы знаний с ИИ-помощником Collabis.
Exit-интервью на LLM: что пользователи говорят в момент закрытия пейволла (схема, промпты, грабли)
TL;DR. Когда игрок закрывает окно оплаты в моей игре, с ним заговаривает отдельный LLM-бот — короткое custdev-интервью по книге «Спроси маму», максимум 5 реплик. За 2 недели: 59 сессий, 20 ответили (34%). Главная находка: заметная часть людей шла из поиска со словом «бесплатно» в моём же title. Ниже отдам вам архитектуру, промпты и код-каркас под любой проект — и расскажу, что это дало.Два слова о продукте, чтобы вы понимали цитаты
НКО Current AI заявила о намерении создать всемирную сеть ИИ
Некоммерческая организация Current AI планирует создать открытую и общедоступную инфраструктуру искусственного интеллекта. Компания запустила чат-бота с открытым исходным кодом на саммите AI for Good в Женеве.
Как я автоматизировал подбор кандидатов с помощью Telegram‑бота и ускорил массовый найм в 3 раза
Все началось с отпуска HR.Нужно было срочно нанять сотрудников, а времени на десятки одинаковых переписок просто не было. Поэтому я написал небольшой Telegram‑бот для первичного отбора кандидатов.Но каждая решенная проблема открывала следующую. Сначала появились анкеты и скоринг. Потом автоматическая запись на собеседования. Затем аналитика, триггерные сообщения, LLM, база знаний и собственный визуальный конструктор сценариев.Если вы занимаетесь подбором персонала, автоматизируете HR‑процессы или разрабатываете Telegram‑ботов, возможно, мой опыт поможет избежать нескольких ошибок и сэкономить время.
