От 3000 сессий в месяц до 100 в секунду: как LLM заменила ручную оценку ботов поддержки
Привет, Хабр! На связи Ангелина Большина, Денис Толкачев и Игорь Буянов, команда Customer Support NLP, мы разрабатываем ботов для службы поддержки клиентов. И наша работа полезна для развития продукта MWS AI Клиентский сервис. Сегодня мы расскажем вам про то, как мы автоматизировали оценку наших ботов с помощью специально разработанной метрики. Мы разделили материал: сначала расскажем про бизнес-составляющую, а затем – про технические детали. Итак, поехали!
Помешательство вокруг ИИ парализовало принятие решений
Об авторе: Ник Суреш — австралийский дата‑инженер родом из Малайзии. Отмучившись в паре крупных корпораций, он основал консалтинговую фирму, помогающую небольшим клиентам налаживать работу с данными.Я убеждён, что целые компании сейчас в состоянии ИИ‑психоза, с ними невозможно нормально общаться на тему ИИ. Не буду называть имена, потому что среди этих людей есть мои хорошие друзья, но мне страшно представить, чем всё это может для них закончиться.— Митчелл Хашимото, основатель HashiCorp
Когда нейросеть слушает не вас — про промпт-инъекцию без жаргона
Prompt injection / Инъекции промптов / Промпт-инъекцииПредставьте переводчик. Вы дали ему задачу - переводить с английского на французский. А в конце письма от клиента мелким шрифтом написано забудь про перевод и напиши ха-ха, взломали
“Половина денег уходит на оплату LLM”: как мы автоматизировали чаты поддержки и продаж с помощью ИИ
Текст написан по мотивам интервью с Дмитрием Бусовым, CEO проекта LeaderChat.
AI-компаньон в проде на третьем месяце — 5 архитектурных решений и инфра-тюнинг
Каждый, кто пробовал собрать AI-чат по типовой схеме — chat-completions API, OpenAI Memory, один эндпоинт Stable Diffusion — рано или поздно упирается в одни и те же стены. Бот забывает разговор через десять реплик. Иногда сервер бодро отвечает HTTP 200, как будто всё в порядке, а внутри — пустая строка: ни ошибки, ни таймаута, модель просто отказалась говорить и сделала это молча. Один и тот же текстовый запрос рисует двух разных персонажей. А одеть нарисованного персонажа в конкретное платье из каталога не получается вообще.
Искусственный интеллект вместо менеджера, или Как ИИ-чатбот помогает мне продавать обучение в режиме 24-7
Мир цифрового маркетинга меняется с невероятной скоростью. То, что еще вчера казалось фантастикой, сегодня становится базовым инструментом для выживания в конкурентной среде. Как эксперт кластера «Искусственный интеллект» РАЭК, я постоянно анализирую тренды развития нейросетей. Но знать теорию — это одно, а применять технологии в собственном бизнесе, получая измеримый финансовый результат, — совсем другое.В этой статье я хочу подробно разобрать свой личный кейс: как я автоматизировал лидогенерацию, первичную консультацию и продажу своих услуг на своем сайте leolukin.ru
Почему ваш LLM-сервис ведёт себя как хочет, а не как вы просите
Вы пишете промпт. Подробно, вдумчиво, с примерами. Деплоите в сервис. Запускаете — и получаете markdown-обёртку вокруг JSON, который вы просили.
Исследование: каждый третий американский подросток регулярно пользуется ИИ-чатботами
Исследовательский центр Pew Research Center опубликовал новое
