- BrainTools - https://www.braintools.ru -

ИИ-администратор: как сделать похожим на человека

ИИ-администратор: как сделать похожим на человека - 1

Клиент пишет в директ, задает вопрос об услуге и хочет записаться. ИИ-администратор должен ответить по существу, найти свободное время и не пообещать то, чего клиника не делает. Приятный тон здесь важен, но не исправит выдуманную цену или запись на занятый час

В проекте администратора для клиники мы столкнулись с обеими сторонами задачи: модель может написать естественный ответ, а запись требует вполне определенных правил, проверки календаря и подтверждения врачом. Ресепшен запущен и сдан клиенту. Ниже разберу отдельные решения по коду и документации проекта: как находятся окна, где возникает временная бронь, что происходит, если клиент пишет еще раз во время подготовки ответа, и почему одних ограничений в промпте недостаточно

Где заканчивается разговор и начинается запись

Система получает сообщения клиента, готовит ответ на основе сведений клиники и при необходимости предлагает время. Доступность времени определяется не моделью: программа сверяется с рабочим расписанием, календарем и существующими записями. Для создания записи есть отдельные проверки. Подтверждение остается за врачом

Если схематично, путь выглядит так:

Сообщение клиента
    ↓
Контекст диалога и сведения клиники
    ↓
Подготовка ответа / запрос свободных окон
    ↓
Проверки перед созданием записи
    ↓
Временная бронь → карточка врачу → подтверждение

Это схема для объяснения, не перечень всех процессов и очередей проекта. Часть информации меняется: расписание, цены, условия услуг. Поэтому ответы нельзя строить только на том, что модель запомнила из предыдущих диалогов. Для нее нужны актуальные источники, а для записи – отдельная проверка состояния на момент действия

Речь идет о реальном проекте, но сообщений пациентов, адресов, идентификаторов и медицинских данных здесь нет. Примеры вопросов ниже учебные

Почему база знаний – это не просто длинный промпт

Бизнес хочет, чтобы бот отвечал быстро и по-человечески. На практике клиент может спросить о цене, наличии времени или сочетании процедур в одном сообщении. Если заставить агента любой ценой вести его по жесткой воронке, тот начинает задавать очередной вопрос вместо ответа на уже заданный

В одном из ранних вариантов мы пробовали опираться на каталог готовых фраз. В документированном прогоне на 50 сообщениях ответ по делу получили 9: еще в 31 случае система ограничилась приветствием, а в 10 предложила вернуться с ответом позже. Это результат конкретного старого прогона, а не качество работающего сегодня ресепшена

Вывод из этой проверки простой: безопасная заглушка полезна, когда ответа действительно нет, но ей нельзя подменять весь разговор. Оценивать нужно не только отсутствие опасного текста, но и то, получил ли человек ответ на свой вопрос

База знаний дает модели материалы об услугах и правилах общения. При этом цены, адреса и время требуют особенно внимательной работы с источником: модель может правдоподобно продолжить фразу, даже если точного значения у нее нет. В проектной документации для этого рассматривалось разделение: текст формирует модель, а проверяемые значения подставляет код. Статус и охват конкретных проверок нужно сверять с работающей версией – одного описания архитектуры недостаточно, чтобы утверждать, что они защищают каждый ответ

Как находятся свободные окна

За расчет отвечает функция okna в модуле записи. Она получает место приема, определяет его часовой пояс и рабочие дни, запрашивает занятые интервалы календаря и дополнительно учитывает живые записи в хранилище. Ниже короткий фрагмент действующего исходного файла; начало функции, получение календаря и преобразование времени опущены:

for day in dni:
    if not _rabochiy_den(day.weekday(), chasy) or day in full_days:
        continue
    for hour in range(chasy["s"], chasy["do"]):
        s = dt.datetime.combine(day, dt.time(hour, 0), tzinfo=tz)
        e = s + dt.timedelta(hours=1)
        if s <= now or any(s < be and be_s < e for be_s, be in intervals):
            continue
        iso = s.isoformat()
        if time_utils.canonical_iso(iso) in taken:
            continue
        out.append({"start": s, "iso": iso, "label": human_time.format_human(iso, "", poyas)})

Условие пересечения интервалов s < be and be_s < e отбрасывает окно, если оно пересекается с занятым интервалом календаря. Отдельно исключается время из taken: там учитываются живые записи. Это важно, потому что временная бронь в приложении и событие во внешнем календаре – разные состояния. Смотреть только в одно место недостаточно

У этой реализации есть конкретная граница: в приведенном цикле окна строятся с шагом один час. Нельзя по этому фрагменту обещать произвольную длительность приема или утверждать, что проверены все сочетания часовых поясов. Для другого расписания и длительностей алгоритм придется проверять отдельно

Клиент пишет сообщение с телефона, фото Edwin Nava, Pexels

Клиент пишет сообщение с телефона, фото Edwin Nava, Pexels

Свободное окно не равно гарантированной записи

Между показом окна и попыткой забронировать его состояние может измениться. Два человека способны одновременно увидеть один и тот же час. Если проверка свободного времени стоит только в начале диалога, оба получат обещание, хотя ресурс один

В коде проекта создание записи проходит через отдельную функцию rodit. По ее документации и реализации запись бота создается внутри транзакции вызывающего кода. Перед вставкой проверяются необходимые поля, состояние анкеты и наличие другой живой записи той же переписки. Конфликт [1] времени в базе превращается в отдельный код отказа zapis_vremya_zanyato

Вот участок обработки конфликта – имена ошибок здесь не пример, они взяты из кода:

try:
    return con.execute(
        "INSERT INTO bookings(istochnik,status,slot_iso,chat_id,channel,procedure,client_name,cena,klyuch,"
        "created_at,expires_at,updated_at,city_key,tz) VALUES (?,?,?,?,?,?,?,?,?,?,?,?,?,?)",
        (istochnik, status, slot_iso, chat_id, channel, procedure, client_name, cena, klyuch,
         seychas, expires_at, seychas, city_key, tz)).lastrowid
except sqlite3.IntegrityError as e:
    for indeks, kod in _OTKAZ_INDEKSA.items():
        if indeks in str(e):
            raise OtkazZapisi(kod) from None
    raise

Уникальность обеспечивает индекс базы, а этот обработчик переводит ошибку [2] ограничения в понятный вызывающему коду отказ. Это не гарантия согласованности со всеми внешними календарями: внешняя система и локальная транзакция – разные компоненты. Но на уровне локальных записей защита от конфликта не зависит от того, насколько аккуратно модель сформулировала ответ

Для записи бота используется состояние held – бронь ожидает подтверждения. По коду срок удержания считается от текущего времени, а освобождение отдельно учитывает начало приема. Таким образом, предложенное время, временная бронь и подтвержденная запись – разные этапы. Клиенту нельзя сообщать о подтверждении только потому, что модель написала красивую фразу

Что делать, если клиент написал еще раз

Генерация ответа и проверки занимают время. За это время пользователь может прислать следующее сообщение: например, уточнить, что спрашивал не про вторник, а про среду. Если отправить подготовленный ранее текст поверх нового сообщения, бот будет отвечать на устаревшую версию вопроса

В проекте перед постановкой ответа в очередь выполняется проверка: не появились ли новые входящие сообщения той же переписки, пока обрабатывалась предыдущая серия. Также система проверяет, не взял ли врач разговор на себя. Это часть функции, которая записывает результат хода и очередь исходящих:

con.execute("BEGIN IMMEDIATE")
if ishod in ("A", "B") and handoff.pauza_v_baze(con, chat_id):
    ishod, pismo = "molchanie", None
    prichiny = prichiny + [{"kod": "pauza"}]
    rezultat = dict(rezultat, metki=[], prosby=[], deystvie=None, pismo_maski=None)

perenos = ishod in ("A", "B") and not rezultat.get("pauzy") and con.execute(
    "SELECT 1 FROM inbox_queue WHERE channel = ? AND chat_id = ? AND status = 'new' AND id NOT IN (%s) "
    "LIMIT 1" % mesta, (kanal, chat_id, *inbox_ids),
).fetchone() is not None

Если врач уже взял разговор, подготовленное письмо подавляется. При новом входящем код также переводит этот результат в молчание и возвращает серию на повторную обработку. Так система старается не отправить старый ответ поверх еще не прочитанного сообщения

Здесь важно различать постановку письма в локальную очередь и фактическую доставку в мессенджер. Один BEGIN IMMEDIATE не доказывает, что внешняя доставка произошла ровно один раз: для этого нужно отдельно разбирать отправщик, повторы и подтверждения площадки

Вторая модель как проверка, а не суд последней инстанции

В исходной задаче мне важна отдельная модель, которая проверяет ответ первой по материалам бизнеса. Это полезно для фактических утверждений об услуге: можно попросить проверяющую модель сопоставить подготовленный текст с конкретным описанием и обнаружить неподтвержденную деталь

Но сам по себе второй вызов не делает ответ правильным. Проверяющая модель тоже может ошибиться или согласиться с формулировкой, для которой в источнике нет основания. Нужны понятные материалы, правила отказа и проверка на примерах с намеренно неверными ответами. Цены и календарные слоты удобнее дополнительно проверять программно, а медицинские решения оставлять специалисту

Это архитектурный принцип и направление проверки, а не заявление, что второй моделью гарантированно проверяется каждое исходящее сообщение текущей версии. Для такого утверждения нужны отдельная проверка живой конфигурации и наблюдения за реальным прохождением сообщений

Человек читает сообщение на телефоне, фото Anna Shvets, Pexels

Человек читает сообщение на телефоне, фото Anna Shvets, Pexels

Человеческий тон не заменяет права передать разговор человеку

Для естественного общения важны примеры и правила тона. Но живой ответ – это прежде всего ответ на то, что человек спросил. Если клиент спрашивает стоимость, бесконечная цепочка уточнений или одинаковое приветствие не делает сервис внимательным

Полностью заменить человека таким администратором я бы не рассчитывал. Чем длиннее и сложнее сценарий, тем больше вариантов развития разговора приходится учитывать. Для нестандартного вопроса, жалобы или ситуации, где решение должен принять специалист, нужен переход к человеку. Важно, чтобы после такого перехода бот не продолжал независимо отправлять свои ответы: проверка паузы перед очередью решает именно эту часть задачи

Как проверять подобную систему

Я бы проверял каждый уровень отдельно, а затем весь путь целиком на тестовых данных:

  1. Вопрос об услуге: ответ содержит только то, что есть в актуальном описании; отсутствующие сведения не придумываются

  2. Смена прайса: после обновления источника в ответе не появляется старая цена

  3. Занятое окно: событие в календаре или активная локальная запись исключает соответствующее время из предложения

  4. Конкуренция: две одновременные попытки занять один слот не создают две активные записи в локальной базе

  5. Часовой пояс: время для города приема корректно сопоставляется с событиями календаря, включая границы дня

  6. Новое сообщение во время обработки: старый ответ не уходит поверх уточнения клиента

  7. Передача человеку: после взятия диалога сотрудником подготовленное сообщение бота не попадает в очередь

  8. Сбои: календарь недоступен, модель не ответила или запись отклонена базой – система не подтверждает прием выдуманным сообщением

Это список предлагаемых проверок, а не отчет об их выполнении на текущей версии. Особое внимание [3] стоит уделить границе между локальной записью и календарем: сбой после изменения одного компонента не должен незаметно оставить второй в противоречивом состоянии

Короткую версию темы и материал о естественном стиле общения я собрал в статье как сделать ИИ-администратора живым в диалоге [4]

Для меня работающий ИИ-администратор – это сочетание нормального диалога с проверяемыми действиями. Модель помогает понять вопрос и сформулировать ответ, а расписание, состояние записи и передача разговора человеку должны иметь ясные правила, которые можно проверить отдельно от качества текста

Автор: MatIntellect

Источник [5]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/38744

URLs in this post:

[1] Конфликт: http://www.braintools.ru/article/7708

[2] ошибку: http://www.braintools.ru/article/4192

[3] внимание: http://www.braintools.ru/article/7595

[4] как сделать ИИ-администратора живым в диалоге: https://matintellect.com/posts/make-an-ai-receptionist-sound-human

[5] Источник: https://habr.com/ru/articles/1109202/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1109202

www.BrainTools.ru

Rambler's Top100