- BrainTools - https://www.braintools.ru -

Почему корпоративные ИИ-ассистенты проваливаются после пилота и как этого избежать

Успешный пилот, восторженные отзывы, планы по масштабированию – а через пару месяцев инструмент почти не используют. Знакомая история? Разберём, почему корпоративные ИИ‑ассистенты терпят неудачу после выхода за рамки тестового режима.

Почему корпоративные ИИ-ассистенты проваливаются после пилота и как этого избежать - 1

Многие компании проходят сходный путь. На этапе пилота корпоративный ИИ‑ассистент выглядит настоящим прорывом: сотрудники быстро получают ответы на вопросы, нагрузка на специалистов снижается, метрики демонстрируют хорошие результаты. Технология кажется удобным решением для оптимизации процессов – и принимается решение о масштабировании.

Но при внедрении ситуация меняется: система начинает выдавать противоречивые ответы, пользователи теряют доверие к инструменту, а вовлечённость падает. эффект стремится к нулю.

Почему разрыв между пилотными результатами и реальной эксплуатацией оказывается настолько велик? Что мешает AI-ассистентам оправдать возложенные на них надежды после масштабирования?

Что меняется после пилота

Во время тестового запуска большинство компаний работают с ассистентом в комфортных условиях. Для проверки выбирают одно подразделение, собирают ограниченный набор документов и заранее приводят его в порядок. Обычно это актуальные инструкции, регламенты и справочные материалы, которые уже прошли внутреннюю проверку.

После масштабирования ситуация меняется. В базу начинают попадать документы, накопленные за несколько лет. Часть давно не обновлялась, часть существует в нескольких редакциях, а некоторые процессы описаны по-разному в зависимости от того, кто был автором.

А что сотрудники? Если на пилоте пользователи готовы мириться с отдельными шероховатостями и помогать команде проекта обратной связью, то в повседневной работе – нет. Сотрудник ожидает получить корректный ответ сразу. Если информацию приходится перепроверять, ценность ассистента падает. Поэтому проекты сталкиваются с трудностями не на этапе настройки модели, а при ежедневном использовании. 

Где обычно возникают проблемы

Корпоративные ИИ-ассистенты редко терпят неудачу из-за слабости самой модели. Чаще проблемы лежат в организационной плоскости. Рассмотрим основные причины.

Нет чёткой бизнес-цели. Иногда ИИ-ассистента внедряют «потому что это модно», без понимания, какую конкретную проблему он должен решить. Пилотный проект может показать техническую работоспособность: модель отвечает на вопросы, находит документы. Но если изначально не определено, какие бизнес-показатели улучшатся (снижение времени на поиск информации, уменьшение числа внутренних запросов, ускорение онбординга), то после пилота систему не к чему привязать. В результате ассистент существует сам по себе, никто не измеряет его реальную пользу, и проект тихо угасает.

Низкое качество данных и отсутствие ответственного за базу знаний. Это самая частая причина провалов. ИИ-ассистент учится на том, что вы ему даёте: инструкциях, регламентах, переписке, документации. Если эти данные устарели, противоречивы, разрозненны или содержат ошибки [1], модель будет воспроизводить и даже усиливать эти недостатки. Пилот часто не выявляет проблему, потому что для теста отбирают «идеальные» документы – свежие, непротиворечивые, выверенные. В реальной же работе ассистент сталкивается с хаосом. Без человека (или команды), который отвечает за качество базы знаний, за её обновление и проверку, база неизбежно деградирует.

Поэтому важно заранее определить, где хранятся актуальные версии документов и как контролируются изменения. В TEAMLY [2] есть история изменений и контроль версий: всегда можно отследить, кто и когда вносил правки.

Устаревшие материалы переносятся в архив и не смешиваются с действующей документацией. Это помогает поддерживать базу знаний в актуальном состоянии и снижает риск появления противоречивой информации. Подробно о том как спроектировать базу знаний, чтобы она реально работала, читайте здесь [3]).

Сопротивление сотрудников. Даже технически совершенный ассистент может не прижиться, если люди не хотят им пользоваться. Причины бывают разными:

  • страх [4], что ИИ заменит их в будущем;

  • недоверие к ответам после первых ошибок;

  • нежелание менять привычные сценарии работы.

В компаниях, где специалисты привыкли полагаться на собственный опыт [5] и чёткую документацию, сопротивление особенно заметно. Если не объяснять, не показывать выгоды (меньше рутины, быстрее найти нужное), ассистент останется игрушкой для энтузиастов.

Недостаточная интеграция с корпоративными системами. Многие компании запускают ИИ-ассистента как отдельный чат или отдельный веб-интерфейс. Чтобы задать вопрос, сотрудник вынужден отвлечься от своей основной работы: оставить CRM или Service Desk, открыть чат с ассистентом, сформулировать запрос, скопировать полученный ответ и вернуться обратно. Даже если на всё это уходит минута, в повседневной рутине такие манипуляции быстро начинают раздражать.

Важно встраивать AI-ассистента [6] прямо в те системы, где сотрудники уже работают. Например, добавить кнопку «Спросить» внутри карточки клиента, показывать подсказки при заполнении тикета или автоматически предлагать варианты ответов в чате поддержки. Когда не нужно никуда переключаться и ничего копировать, инструмент используется естественно и без лишних усилий.

Почему корпоративные ИИ-ассистенты проваливаются после пилота и как этого избежать - 2

Отсутствие владельца проекта и поддержки. ИИ-ассистент – не программа, которую можно установить и забыть. Он требует постоянного внимания [7]: анализ логов, исправление ошибок, обновление базы знаний, донастройка промптов. Если в компании нет человека или команды, которые отвечают за развитие и сопровождение системы, проект быстро затухает. На этапе пилота энтузиазм поддерживается «ручным режимом», но после масштабирования ответственность размывается, и никто не чинит вовремя накопившиеся проблемы. (Кого назначить ответственным читайте по ссылке [8]).

Проблемы безопасности и доступа. ИИ-ассистент работает с конфиденциальной информацией: регламентами, клиентскими данными, финансовыми документами. Если не настроены права доступа, возможны две крайности. Первая: ассистент показывает информацию, которую сотрудник не должен видеть (риск утечки). Вторая: из-за излишне жёстких ограничений модель не находит легитимные документы и отвечает «не знаю» на вопросы, на которые должна отвечать. В IT-компаниях с развитой системой ролей и доступов эта проблема стоит особенно остро. Без предварительной работы с разрешениями проект либо упирается в безопасность, либо становится бесполезным. (Об управлении правами доступа читайте по ссылке [9]).

Почему корпоративные ИИ-ассистенты проваливаются после пилота и как этого избежать - 3

Что стоит сделать до внедрения

Подготовка корпоративных знаний обычно приносит больше пользы, чем дополнительная настройка модели.

  • Провести аудит знаний. Выясните, где хранятся документы, какие материалы сотрудники реально используют, какие данные устарели. На этом этапе часто обнаруживаются дубли, забытые регламенты и десятки локальных копий инструкций. Заведите реестр источников с указанием ответственных – это поможет не повторять [10] аудит с нуля через полгода.

  • Определить единую систему хранения. У сотрудников и у ассистента должно быть единое место, где находится актуальная версия каждого документа. Правило жёсткое: если документ не попал в эту систему, для ассистента он не существует. Это единственный способ побороть привычку хранить файлы «на всякий случай» в личных папках.

  • Настроить жизненный цикл контента. Для каждого документа назначьте владельца, укажите срок пересмотра и правило архивирования. Если информация не проверялась длительное время (например, больше года), она должна автоматически попадать в список на ревизию. Владелец принимает решение: оставить, обновить или удалить. Без этого база знаний превращается в кладбище устаревших инструкций.

  • Продумать интеграции. Чем меньше действий требуется пользователю для обращения к ассистенту, тем выше вероятность, что инструмент приживётся. Встраивайте [11] кнопку «спросить» в CRM, Service Desk, корпоративный мессенджер. Отдельный веб-чат с ручным копированием вопросов – путь к низкой вовлечённости.

  • Определить метрики успеха до старта. Решите, как вы будете измерять пользу: сокращение времени на поиск информации, снижение числа повторяющихся вопросов к коллегам, скорость онбординга новичков. Без конкретных цифр после запуска будет непонятно, работает ассистент или просто существует для галочки.

Что объединяет успешные проекты: вместо вывода

В компаниях, где корпоративные ИИ-ассистенты [6] действительно прижились, прослеживается общая закономерность. Успех редко связан лишь с технологией.

Система работы со знаниями сложилась до внедрения. У документов есть владельцы, они регулярно пересматриваются и хранятся в определённых местах. Пользователи видят, откуда взята информация, и могут её проверить.

Работа над качеством не заканчивается после запуска. Команда анализирует запросы сотрудников, фиксирует спорные ответы и устраняет причины ошибок. В результате база знаний становится чище, а не накапливает устаревшие материалы.

Корпоративный ИИ-ассистент –  способ доступа к знаниям компании. Если знания в порядке, инструмент экономит время. Если в документации накопились противоречия и неактуальные данные, внедрение ИИ сделает эти проблемы заметнее.

Автор: Vitaliy_Chesnokov

Источник [12]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/31523

URLs in this post:

[1] ошибки: http://www.braintools.ru/article/4192

[2] TEAMLY: https://teamly.ru/knowledge-base/?utm_source=blog&utm_medium=habr&utm_campaign=ii_proval_pochemu

[3] читайте здесь: https://habr.com/ru/companies/teamly/articles/984518/

[4] страх: http://www.braintools.ru/article/6134

[5] опыт: http://www.braintools.ru/article/6952

[6] AI-ассистента: https://teamly.ru/ai/?utm_source=blog&utm_medium=habr&utm_campaign=ii_proval_pochemu

[7] внимания: http://www.braintools.ru/article/7595

[8] по ссылке: https://habr.com/ru/companies/teamly/articles/1001044/

[9] читайте по ссылке: https://habr.com/ru/companies/teamly/articles/995300/

[10] повторять: http://www.braintools.ru/article/4012

[11] Встраивайте: https://teamly.ru/widget/?utm_source=blog&utm_medium=habr&utm_campaign=ii_proval_pochemu

[12] Источник: https://habr.com/ru/companies/teamly/articles/1045058/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1045058

www.BrainTools.ru

Rambler's Top100