Как инженеры могут снизить риски ИИ в цифровой трансформации – часть 2

ссылка на 1 часть ^[1]

Изучаем еще пять самых распространенных рисков ИИ и способы их минимизации.

Функциональность ИИ все чаще становится частью проектов цифровой трансформации. Внедрение ИИ добавляет бизнес-ценности таким инициативам. Однако инженеры сталкиваются с множеством рисков, связанных с ИИ. Эти риски можно использовать как отправную точку для формирования реестра рисков проекта цифровой трансформации.

Рассмотрим последние пять из десяти самых распространенных рисков ИИ и способы их снижения. Чтобы прочитать о первых пяти, перейдите по ссылке.

1. Недостаточный алгоритм ИИ

Доступные алгоритмы ИИ для построения моделей сильно различаются по масштабу, качеству и сложности. Кроме того, проектные команды часто дорабатывают полученные алгоритмы. Эти факторы создают риск использования неадекватного или неподходящего алгоритма для решения задачи цифровой трансформации.

Как снизить риск:

Бизнес-команды могут минимизировать риск применения неоптимального алгоритма, тестируя алгоритмы из разных источников по следующим критериям:

• Получение желаемых результатов на хорошо изученных тренировочных данных.

• Отсутствие программных дефектов.

• Вычислительная эффективность.

• Работоспособность при меньшем объеме или более низком качестве данных.

• Устойчивость к дрейфу при добавлении новых данных.

• Интерпретируемость.

Алгоритмы ИИ – это семейство математических процедур, которые анализируют тренировочные данные для создания модели ИИ.

2. Недостаточная модель ИИ

Риск некачественной модели ИИ может быть вызван множеством факторов, включая неоптимальный алгоритм, проблемные правила и недостаточные тренировочные данные.

Как снизить риск:

Команды могут уменьшить этот риск, регулярно тестируя модель с помощью следующих методов:

• Точная настройка параметров модели.

• Функциональное тестирование.

• Интеграционное тестирование.

• Проверка на предвзятость и справедливость.

• Адверсарное тестирование (использование вредоносных или ошибочных входных данных).

Модель ИИ – это объект, сохраненный после обработки алгоритмом тренировочных данных. Она включает правила, числовые значения и другие структуры, необходимые для прогнозирования на реальных данных.

3. Недостаточное понимание элементов данных

Некоторые данные (фичи) влияют на результаты модели сильнее других. Если команда не понимает, какие именно элементы наиболее значимы, это создает риск:

• Неточной настройки алгоритма.

• Неудовлетворительных или вводящих в заблуждение результатов.

Как снизить риск:

• Тестирование, как небольшие изменения в данных влияют на результаты модели.

• Проверка, что одноименные данные из разных источников действительно идентичны.

• Обеспечение высокого качества ключевых данных.

Элементы данных – это столбцы в реляционной базе данных.

4. Недостаточная квалификация команды

Из-за высокого спроса на специалистов по ИИ и Data Science проектные команды часто сталкиваются с нехваткой экспертизы. Это создает риск получения некачественных результатов без осознания проблемы.

Как снизить риск:

• Обучение ^[2] сотрудников для повышения компетенций.

• Привлечение экспертов в предметной области.

• Вовлечение внешних консультантов.

Необходимые роли в команде:

• Бизнес-аналитики.

• Data Scientist’ы.

• Эксперты в предметной области.

• Инженеры машинного обучения.

• Дата-инженеры и аналитики.

• Архитекторы ИИ.

• Этика ИИ.

• Разработчики ПО.

5. Недостаточное внимание к ответственной разработке ИИ

В увлечении проектом команды часто упускают аспекты ответственного ИИ, даже не действуя неэтично. Ответственный ИИ касается этики, а эта тема часто кажется абстрактной.

Как снизить риск:

• Оценка справедливости и предвзятости в зависимости от чувствительности данных.

• Изучение происхождения внешних данных.

• Проверка их соответствия и объективности.

• Привлечение специалистов по этике ИИ на этапах проектирования и тестирования.

• Регулярный мониторинг результатов модели на соответствие и предвзятость после внедрения.

Принципы ответственного ИИ от OECD:

• Инклюзивный рост, устойчивое развитие и благополучие.

• Человеко-ориентированные ценности и справедливость.

• Прозрачность и объяснимость.

• Надежность, безопасность и защищенность.

• Подотчетность.

Если команда сознательно действует неэтично – пора увольнять людей