Как инженеры могут снизить риски ИИ в цифровой трансформации

Функциональность ИИ все чаще становится компонентом проектов цифровой трансформации. Внедрение ИИ добавляет бизнес-ценности, но также создает риски. Инженеры могут использовать этот список для включения в реестр рисков своих проектов.

1. Неточное описание возможностей

Риск неточной формулировки проблемы или возможности удивительно распространен, так как многие проекты запускаются на основе поверхностного анализа. Атака на неверно определенную проблему снижает шансы на успех и может привести к значительным финансовым потерям.

Как снизить риск:

• Провести углубленный анализ проблемы

• Подкрепить ^[1] описание:

  • Списком альтернативных решений

  • Предварительной оценкой осязаемых и нематериальных выгод

  • Определением ролей в проекте

  • Примерной оценкой затрат

  • Списком допущений и рисков

“Никакие технические чудеса ИИ не компенсируют плохо понятую бизнес-проблему.”

2. Недостаточность данных

Это, вероятно, самый серьезный риск при внедрении ИИ.

Меры снижения:

• Расширение источников данных (количество и разнообразие)

• Генерация синтетических обучающих данных

• Оценка рисков при подготовке данных (галлюцинации, смещения)

Недостаточные данные снижают надежность выводов ИИ и увеличивают вероятность ошибок.

3. Неправильное применение ИИ

Ажиотаж вокруг ИИ может привести к его использованию там, где достаточно более простых решений.

Как избежать:

• Рассмотреть альтернативы:

  • Аналитика данных

  • Имитационное моделирование

  • Готовые ПО

  • Классическая разработка

ИИ — это общий термин для систем, выполняющих задачи, требующие человеческого интеллекта ^[2], включая:

• Обработку естественного языка (NLP)

• Компьютерное зрение ^[3]

• Распознавание речи

• Робототехнику

4. Неточная оценка выгод

Для утверждения проекта обычно требуется оценка осязаемых выгод, но на ранних этапах она часто бывает приблизительной.

Решение:

• Сначала провести пилотный проект

• Уточнить выгоды и подтвердить жизнеспособность решения

Сложности оценки связаны с:

• Необходимыми экспертизами

• Быстрым развитием инструментов ИИ

• Затратами на решение проблем с данными

• Скоростью внедрения

• Степенью влияния на бизнес

5. Низкое качество данных

Плохое качество данных грозит провалом проекта и ненадежными результатами ИИ.

Действия:

• Проанализировать данные (профилирование)

• Улучшить:

  • Исправление исторических неточностей

  • Оптимизацию процессов сбора новых данных

Критерии качества данных:

• Точность (минимум некорректных значений)

• Полнота (минимум пропусков)

Вывод:

Проактивное выявление и снижение рисков ИИ помогает реализовать запланированные бизнес-преимущества цифровой трансформации.