AI-ML в действии: как сервис Sofros AI-ML помогает компаниям из разных отраслей повышать качество НСИ

• Введение ^[1]

• Коротко о главном из предыдущих статей ^[2]

• SOFROS AI/ML и 1С:MDM: архитектура совместного использования ^[3]

• Общие настройки расширения и настройки моделей ^[4]

• Создание экземпляров моделей ^[5]

• Добавление обучающих примеров ^[6]

• Кейсы практического использования моделей ^[7]

• Оценка качества моделей ^[8]

• Как мы боремся с дрейфом данных в SOFROS AI/ML ^[9]

• Краткие выводы ^[10]

• Что дальше? ^[11]

Введение

Сегодня большинство компаний сталкиваются с серьёзной проблемой: данные в их информационных системах постоянно деградируют, а традиционные подходы к очистке не дают необходимого эффекта. В результате организации вынуждены постоянно проводить дорогостоящие процессы дедупликации и нормализации, отвлекая ресурсы компании от основной деятельности.

Современный подход – применение технологий искусственного интеллекта ^[12] и машинного обучения ^[13]. Гибридные модели классификации, семантический поиск на основе языковых моделей, интеллектуальная экстракция характеристик – эти инструменты позволяют не просто автоматизировать процесс нормализации, но и обогащать данные, обучаясь на реальных примерах работы пользователей.

В этой статье мы разберём, какие задачи решают современные AI/ML-инструменты, почему они эффективнее традиционных методов и как их внедрение трансформирует управление данными в организации.

Коротко о главном из предыдущих статей

В первой ^[14] и второй ^[15] статье цикла мы разобрались, почему нормативно-справочная информация неизбежно деградирует, почему простые алгоритмы сравнения строк проигрывают AI/ML и как устроен сервис SOFROS AI/ML в целом – его архитектура, гибридный подход и интеграция с корпоративными системами через REST API.

В третьей ^[16]статье мы подробно разобрали, как работают модели под капотом: классификация на основе наивного байесовского классификатора, экстракция характеристик с помощью NER, семантический поиск на базе BERT и FAISS, контекстный поиск с использованием LLM.

Теперь перейдём от теории к практике: разберём, как модели SOFROS AI/ML встроены в интерфейс 1С:MDM, какие режимы работы доступны пользователю, как организовано взаимодействие с сервисом и какие параметры можно настраивать.

SOFROS AI/ML и 1С:MDM: архитектура совместного использования

Сервис SOFROS AI/ML с точки зрения ^[17] взаимодействия с 1C:MDM поставляется в виде двух основных компонентов:

1. Автономный локальный сервер взаимодействия разворачивается в Docker-контейнере, управляет моделями, обеспечивает их оркестрацию и предоставляет REST API для взаимодействия. Реализован на микросервисной архитектуре, поддерживает Windows и Linux.

2. Расширение для 1С:MDM – файл расширения, которое встраивается в конфигурацию 1С:MDM Управление нормативно-справочной информацией, редакция 2.5, и реализует всю бизнес-логику нормализации в привычном для пользователя интерфейсе 1С.

Архитектура решения выглядит так:

• Расширение 1С формирует SDK для взаимодействия с библиотеками искусственного интеллекта 1С и API для связи с автономным сервером взаимодействия Sofros.

• Автономный сервер взаимодействия реализует микросервисы для оркестрации и взаимодействия с моделями машинного обучения, обрабатывает запросы от расширения, выполняет работу с обучающими примерами, обучение и затем возвращает результаты предсказаний.

Важно понимать: SOFROS AI/ML не заменяет MDM-систему, а расширяет её возможности, автоматизируя ежедневные операции и освобождая экспертов от трудоёмких операций в нормализации. Для пользователя процесс остаётся привычным – он работает в знакомом интерфейсе 1С. Сервис выступает в роли ассистента и проходит несколько этапов своей эволюции и обучения.

1. Наблюдение – на первоначальном этапе сервис анализирует действия пользователя, накапливает обучающие примеры и обучает модели в реальном времени.

2. Подсказки – когда уверенность в предсказаниях моделей возрастает, сервис начинает предлагать варианты заполнения на основе предыдущего полученного опыта ^[18].

3. Автоматизация – при достижении высокой точности прогнозов сервис выполняет обработку полностью автоматически, оставляя пользователю лишь финальную валидацию получаемого результата.

В итоге происходит значительное ускорение всех процессов работы с НСИ.

Общие настройки расширения и настройки моделей

Перед началом работы с моделями необходимо настроить расширение. Настройки находятся на вкладке «Sofros AI/ML» → «Настройки подключения к серверу Sofros AI/ML».

Основные группы общих настроек

Если в процессе работы вам потребуется изменить поведение ^[19] какой-то конкретной модели (например, для классификации), это делается в настройках самой модели – общие настройки лишь задают глобальные ограничения и умолчания.

Настройки модели классификации

В результате комбинация настроек вероятности и уверенности позволяет четко выделять ложноположительные и ложноотрицательные срабатывания, а также определять минимальный порог вероятности и уверенности, который будет считаться достаточным для того чтобы считать результат прогнозирования достоверным.

Настройки модели семантического поиска

Ключевая задача при настройке модели семантического поиска – найти баланс между точностью и производительностью. Включение реранкера повышает качество результатов, но требует дополнительных вычислительных ресурсов. Пороги вероятности и ограничение количества результатов позволяют отсекать заведомо нерелевантные записи, не перегружая пользователя лишней информацией. Гибкость настроек делает модель применимой как для быстрого поиска в больших справочниках (например в задачах нечёткого поиска содержимого справочников), так и для задач, требующих максимальной точности, например при сопоставлении семантически близких характеристик. Для модели семантического поиска такие характеристики как «сечение жилы» и «сечение токопроводящих жил» будут считаться идентичными, и создание семантически близкого аналога может быть запрещено соответствующей настройкой. Это позволяет избежать дублирования характеристик в справочнике и поддерживать его единообразие и непротиворечивость.

Настройки интеллектуальных ассистентов

Настройки интеллектуальных ассистентов позволяют задавать не только промпты для управления моделями, но и алгоритмы для их заполнения для каждого конкретного примера использования.

Создание экземпляров моделей

Каждая модель создаётся из шаблона через команду «Создать модель из шаблона» в справочнике «Модели машинного обучения». Для каждой модели доступен набор команд:

1. «Проверить доступность сервиса» – проверяет доступность сервиса SOFROS AI/ML.

2. «Переобучить модель» – запускает обучение модели на всей коллекции обучающих данных.

3. «Выгрузить обучающие данные (изменения)» – выгружает изменённые обучающие примеры.

4. «Выгрузить (повторно) все обучающие данные» – выгружает всю коллекцию обучающих данных.

5. «Очистить обучающие данные» – выполняет полную очистку обучающих данных.

6. «Дообучить модель» – обучает модель только на новых примерах.

7. «Дополнительные настройки модели» – открывает форму дополнительных настроек.

8. «Обновить модель из шаблона» – обновляет реквизиты модели из шаблона.

Добавление обучающих примеров

Важная часть работы с сервисом – пополнение обучающих примеров для улучшения качества моделей. Это происходит двумя способами :

1. Автоматически – с помощью регламентного задания «Актуализация эмбеддингов моделей машинного обучения».

2. Вручную – с помощью команд «Выгрузить обучающие данные (изменения)» и «Выгрузить (повторно) все обучающие данные».

Коллекция уже выгруженных обучающих примеров хранится в регистре сведений «Добавленные обучающие примеры». В модели экстракции, например, размеченные вручную экспертами характеристики (или скорректированная разметка) автоматически добавляются в очередь для выгрузки в сервис при сохранении формы разметки. Таким образом совместная работа эксперта и модели на каждом новом шаге приводит к обогащению модели новыми примерами и повышает точность последующих выделений характеристик.

Кейсы практического использования моделей

Кейс 1: Классификация

Что делает. Модель классификации определяет категорию (конечный класс) объекта по его текстовому наименованию. Например, по строке «ATV320U40N4C Преобразователь частоты ATV320 компактное исполнение 4 КВТ 500В 3Ф» модель определяет класс «Преобразователи частоты».

Где находится в 1С:MDM. Классификация доступна в форме элемента справочника «Материально-технические ресурсы» по командам:

• «Заполнить реквизиты по данным ИИ» – заполняет класс и другие реквизиты.

• «Заполнить реквизит «Класс» с помощью ИИ» – классифицирует только класс.

Технические детали модели. Модель использует наивный байесовский классификатор. Особенности реализации:

• «Вариант наивного Байеса» – используемый вероятностный алгоритм классификации.

• «Игнорировать токены длиной меньше» – токены в строке, длина которых меньше указанного в настройке значения, будут проигнорированы в процессе классификации.

• «Игнорируемые шумовые токены» – токены, указанные в таблице, будут проигнорированы в процессе классификации.

Как работает на практике. После нажатия команды выполняется классификация. Если уверенность или вероятность результата ниже заданных порогов, открывается форма выбора, из которой пользователь может самостоятельно выбрать подходящий класс из списка наиболее вероятных. В случае однозначного определения класс подставляется автоматически.

Пример из практики. При консолидации справочников нескольких филиалов после слияния компаний сотни тысяч позиций с разными названиями автоматически распределяются по единым классам. Строка «Инвертор для насоса 5.5 кВт» и «Преобразователь частоты ATV320» — оба попадают в класс «Преобразователи частоты».

Кейс 2: Экстракция характеристик

Что делает. Модель экстракции на базе spaCy с дообученными классами NER выделяет из текста характеристики и их значения . Из строки «Модуль памяти ^[20] Samsung 16GB SODIMM 5600Mhz» модель выделяет: Производитель = Samsung, Объем = 16GB, Тип = SODIMM, Частота = 5600Mhz.

Технические детали модели. Модель использует библиотеку spaCy с собственной обучаемой моделью NER . Особенности реализации:

• Пользовательская токенизация – встроенная токенизация spaCy не оптимальна для номенклатурных строк, содержащих сокращения, числовые значения, единицы измерения, артикулы и специальные символы.

• Метод лучевого поиска (beam search) – модель выдаёт несколько вариантов разбора с оценками вероятности и выбирает наилучший.

• Категориальные и дискретные свойства – категориальные хранят конкретные значения (цвет, материал), дискретные описывают шаблоны и паттерны.

• «Горячее» кэширование – загрузка классов по требованию, позволяет работать с большим количеством классов без перегрузки памяти.

Где находится в 1С. Экстракция запускается из формы элемента справочника на вкладке «Технические характеристики» по команде «Заполнить технические характеристики по данным ИИ».

Как работает на практике. При нажатии открывается форма разметки характеристик с несколькими разделами:

1. Варианты разбора – таблица с вариантами разметки строки, каждый вариант подсвечен цветом (каждый цвет – значение отдельной характеристики), указана маска разметки (красный – вариант встречается впервые) и вероятность релевантности разметки.

2. Текущий вариант разбора – активная строка экстракции для корректировки.

3. Таблица разметки – подробное представление: характеристика, строковое значение, варианты разбора через семантический поиск, результат, позиции начала и конца значения в строке.

4. Таблица характеристик класса – существующие значения в базе и значения по умолчанию.

5. Служебные поля – класс, модель, итоговое наименование по шаблону.

Ключевая особенность. Модель не просто выделяет характеристики, но и предлагает варианты сопоставления с уже существующими значениями в базе через семантический поиск. Например, строковое значение «алюмин.» сопоставляется с существующим ссылочным значением «АЛЮМИНИЕВЫЙ» – это обеспечивает единообразие данных .

Режим 3: Семантический (нечёткий) поиск

Что делает. Модель семантического поиска находит записи, похожие по смыслу на запрос .

Технические детали модели :

Где находится в 1С. На форме списка справочника на вкладке «Нечеткий поиск (ИИ)». В строку поиска вводится запрос, после Enter запускается предсказание. С помощью колонки «Уверенность (%)» можно сортировать результаты. Также данная модель вызывается для задач сопоставления значений извлеченных характеристик в модели экстракции, при нахождении наименований и значений характеристик в модели контекстного поиска.

Пример из практики. Подбор аналога для дефицитного материала, когда точное название неизвестно. Ввод «масло моторное 10W-40 синтетика» возвращает все позиции, семантически близкие к запросу, даже если они называются «Масло моторное C.N.R.G. N-Duro Ultim MS 10W40» или «Моторное масло синтетическое 10W-40». Допускаются ошибки ^[21], сокращения, транслитерация, различные конвертации, например:

Кейс 4: Контекстный поиск и дообогащение данных

Что делает. Модель контекстного поиска выступает интеллектуальным справочником: обращается к локальной или облачной LLM (через провайдер Ollama) и, при необходимости, к веб-поиску Ollama для дообогащения данных новыми характеристиками из открытых источников.

Технические детали модели. Модель работает по принципу: кэш → LLM → веб-поиск (при необходимости), что позволяет минимизировать нагрузку на языковую модель и ускорить повторные запросы за счёт извлечения данных из сохраняемого кэша.

Ключевая особенность: модель может выявлять новые характеристики, которых ещё нет в справочнике, и предлагать их для создания, что делает её незаменимым инструментом при работе с новой номенклатурой и поставщиками. Можно ограничить конкретными ресурсами список используемых интернет ресурсов или внутренних ресурсов, а также количество просматриваемых ресурсов при веб-поиске.

Где находится в 1С. На форме элемента справочника на странице «Технические характеристики» по команде «Поиск значений характеристик».

Как работает на практике. Открывается форма с двумя вкладками.

Вкладка «Поиск значений характеристик» – таблица с колонками:

• «Значение из сервиса LLM» – значение, полученное по запросу к LLM.

• «Варианты значений» – ранее заведённые в базе значения, найденные через семантический поиск.

• «Результат» – итоговое значение для записи в базу (выбирается двойным кликом).

• «WEB-поиск» – команда для дообогащения данных из интернета.

Вкладка «Поиск новых характеристик» – поиск характеристик, которых ещё нет в базе. При нажатии «Найти характеристики» заполняется таблица новых характеристик. Характеристики, которые не были однозначно сопоставлены с базой, выделяются полужирным начертанием. Для новых характеристик открывается форма выбора вариантов с возможностью создать новую характеристику.

Пример из практики. При работе с новым поставщиком появляется номенклатура с характеристиками, которых ещё нет в справочнике. Модель обращается к LLM и веб-поиску, находит технические параметры из спецификаций поставщиков, предлагает создать новые характеристики и заполнить их значениями. Также для сопоставления найденных характеристик с существующими в базе используется модель контекстного поиска.

Оценка качества моделей

Для контроля качества работы модели предусмотрены средства визуализации и оценки результатов :

• Матрица ошибок – показывает, сколько объектов каждого фактического класса было отнесено к каждому предсказанному классу.

• Метрики извлечения сущностей – TP (истинно положительные), FP (ложноположительные), FN (ложноотрицательные), BM (сущность найдена, но с неверной меткой) .

• Точность (precision) – доля объектов, отнесённых к классу, действительно принадлежащих этому классу.

• Полнота (recall) – доля объектов класса, правильно найденных моделью.

• F-мера – сбалансированная оценка, объединяющая точность и полноту.

• Коэффициент корреляции Мэтьюса (MCC) – устойчивая интегральная метрика для несбалансированных классов.

Эти показатели позволяют анализировать ошибки, выявлять проблемные классы и принимать решения о необходимости дообучения.

Как мы боремся с дрейфом данных в SOFROS AI/ML

Даже самая точная модель машинного обучения со временем теряет качество. Это происходит из-за дрейфа данных — когда статистические свойства входящих данных меняются по сравнению с теми, на которых модель обучалась. Например, поставщики могут начать использовать новые артикулы, сокращения или форматы описаний — и модель, обученная на старых данных, начнёт ошибаться. Также из за дрейфа данных зачастую невозможно использовать предварительно-обученные модели, или модели обученные на данных другого клиента.

В SOFROS AI/ML мы используем комплексный подход для обнаружения и предотвращения дрейфа.

Обнаружение дрейфа: статистический контроль

Мы отслеживаем распределение ключевых признаков в поступающих данных с помощью статистических тестов и метрик расстояния :

• PSI (Population Stability Index) — одна из основных метрик для измерения стабильности распределения признаков во времени. PSI показывает, насколько сильно изменилось распределение значений по сравнению с эталонным. Значение < 0,1 считается незначительным изменением, 0,1–0,25 требует анализа, а > 0,25 сигнализирует о необходимости переобучения модели.

• Критерий Колмогорова-Смирнова — непараметрический статистический тест, который сравнивает распределения непрерывных данных и помогает выявить значимые сдвиги.

• KL-дивергенция — метрика, измеряющая информационное расхождение между распределениями, чувствительная к различиям в «хвостах».

Все эти метрики рассчитываются автоматически в фоновом режиме. Если система фиксирует отклонения выше пороговых значений, она сигнализирует администратору о необходимости проверить качество работы моделей.

Процесс переобучения и дообучения

Обнаружение дрейфа — только полдела. Главное — оперативно восстановить качество модели. В SOFROS AI/ML это решается двумя способами:

1. Дообучение на новых данных. Модель может быть дообучена на свежих размеченных примерах без полного переобучения с нуля. Это быстрый способ «адаптировать» модель к изменившимся условиям.

2. Полное переобучение. Если дрейф значительный, запускается полное переобучение модели на всей актуальной коллекции обучающих данных.

Важный механизм — постоянное пополнение обучающей выборки. В SOFROS AI/ML это происходит автоматически через регламентное задание «Актуализация эмбеддингов моделей машинного обучения», а также вручную через выгрузку изменённых и новых обучающих примеров. Чем больше релевантных данных накапливается, тем устойчивее модель к дрейфу.

Мониторинг качества в реальном времени

Помимо статистического контроля, мы отслеживаем метрики качества предсказаний в процессе эксплуатации:

• Матрица ошибок — показывает, как изменилось распределение правильных и ошибочных классификаций.

• Precision, Recall, F-мера, MCC — ключевые метрики качества. Их резкое падение — явный признак дрейфа.

Если модель начинает чаще ошибаться на определённых классах, система рекомендует провести выборочную проверку и при необходимости дообучить модель на проблемных категориях.

Принцип «обучающегося сервиса»

В SOFROS AI/ML заложен механизм, который помогает смягчать последствия дрейфа ещё до его обнаружения:

• Накопление обучающих примеров из действий пользователя. Когда эксперт вручную правит результат классификации или разметки, этот исправленный пример автоматически добавляется в обучающую выборку.

• Обучение в реальном времени. По мере накопления новых примеров модель может быть дообучена без остановки сервиса.

Этот подход, описанный ранее, делает сервис SOFROS AI/ML не просто статичным инструментом, а динамической системой, которая эволюционирует вместе с вашими данными.

Краткие выводы

1. SOFROS AI/ML интегрируется с 1С:MDM через расширение, не заменяя MDM-систему, а расширяя её возможности и снимая рутинную нагрузку с экспертов .

2. Доступны четыре основных режима работы: классификация, экстракция характеристик, семантический поиск и контекстный поиск с дообогащением из веб-источников.

3. Каждый режим запускается из знакомого интерфейса 1С — пользователям не нужно осваивать новые системы, достаточно освоить несколько команд.

4. Гибкая настройка моделей — через создание из шаблонов с возможностью задавать параметры (сервер, порог уверенности, вариант алгоритма, использование реранка).

5. Автоматическое и ручное пополнение обучающих примеров — обеспечивает постоянное улучшение качества моделей на реальных данных.

6. Борьба с дрейфом данных — мы отслеживаем изменение распределений входящих данных с помощью статистических тестов (PSI, KL-дивергенция, критерий Колмогорова-Смирнова) и при необходимости запускаем дообучение или полное переобучение моделей. Это гарантирует, что модели сохраняют точность даже при изменении структуры входящих данных.

Что дальше?

В следующей статье цикла мы покажем Вам практические кейсы внедрения SOFROS AI/ML: как сервис помогает компаниям из разных отраслей сокращать дубли на 95%, ускорять закупки и повышать качество справочников. Разберём реальные примеры и цифры экономической эффективности.

Если вас заинтересовал наш сервис, вы можете записаться на бесплатную консультацию и демонстрацию. ^[22]