Грязные данные для вечного сияния чистого ИИ

Эпиграф: Это хуже чем преступление. Это ошибка ^[1]

Искусственный интеллект ^[2] становится неотъемлемой частью современной жизни. Масштаб и скорость экспансии в различные сферы нашей жизни столь высокие (некоторые даже просят приостановить ^[3], что можно смело предположить будущее, где ИИ будет везде.

При этом согласно дорожной карте по развитию общего искусственного интеллекта от OpenAI ^[4], состоящей из 5 уровней, мы сейчас находимся на 1 уровне, когда ИИ только советует, а решение и ответственность остаётся за человеком. На следующем уровне он сможет рассуждать на уровне и вместо человека, а на третьем сможет действовать.

Скачок развития больших языковых моделей и нейросетей (технологий в основе ИИ) привёл к тому, что ИИ уже сейчас может говорить, рисовать картины, водить машину и даже пылесосить и мыть полы. Даже дети уже оживляют фотографии с помощью нейросетей ^[5].

Справедливо будет сказать, что все мы, согласно опросу ВЦИОМ ^[6], возлагаем на него большие надежды:

1. уменьшим затраты времени на рутину

2. повысим производительность труда

3. улучшим качество жизни

4. вырастет уровень безопасности

5. победит мировая революция

Одна из важных отраслей для применения ИИ – Здравоохранение ^[7].

В России принята Национальная стратегия в области искусственного интеллекта до 2030 года, в соответствии с которой, должны быть: “сняты отдельные административно-правовые барьеры, препятствовавшие внедрению технологий искусственного интеллекта в отдельных областях, включая здравоохранение, транспорт, государственно-частное партнёрство и другие области;”

Также уже есть ГОСТ Р 59525—2021 Интеллектуальные методы обработки, где более полно приведены типичные случаи использования искусственного интеллекта в различных специальностях медицины.

Цитата из документа: “В связи со сложностью решаемых в здравоохранении задач применение методов интеллектуальной обработки данных является одним из основных направлений повышения качества, уровня и доступности оказания медицинских услуг.”

Из всего вышесказанного можно предположить, что какие-то задачи в лечении пациентов в скором времени переложат на ИИ и разрешить ему нас лечить.

Не если, а когда это произойдёт, то хотелось бы избежать, чтобы ошибки ^[8] и проблемы в ИИ повлияли на качество нашего лечения, как, например, уже известные галлюцинации ^[9] (можно представить, как ИИ галлюцинировал, что у вас 6 пальцев и нужна операция по удалению лишнего пальца).

Тогда немного разберёмся какие составляющие нужны для нормального функционирования ИИ:
1. технологии и алгоритмы
2. компьютерные мощности (ЦОДы)
3. данные

Все эти составляющие у нас есть и активно развиваются, но разберёмся подробнее с данными. Сейчас данные создаются повсюду, но какие данные нужны для качественной работы ИИ?

Так вот и спросим ИИ в лице YandexGPT: “Какие данные нужны для Искусственного интеллекта в медицине?” и получим следующий набор понятных требований (можете сами спросить, но в целом это очевидные требования со слабой зависимостью от области применения), который привожу здесь в кратком виде:
1. Объём данных;
2. Разнообразие данных
3. Качество данных
4. Метки и аннотации
5. Структура данных
6. Доступность данных
7. Актуальность данных
8. Отсутствие предвзятости
9. Конфиденциальность и безопасность

Отметим, что здравоохранение – хороший кандидат на помощь искусственного интеллекта:

Понятно, почему важна актуальность данных, но возникает неудобный вопрос: качественны ли медицинские данные (замечу что это наши с вами данные): анамнезы, данные обследований, приёмов, назначений, процедур, хирургических вмешательств и так далее.

А теперь мысленно перенесёмся в “кузницу медицинских данных”, где все мы бывали, в медицинский кабинет. Здесь довольно часто мы сможем услышать следующие слова: “напишем так для страховой“, а под этим понимается, что для выполнения правил страховой компании и одновременного получения возможности помочь пациенту (то есть нам с вами) мы пишем то чего у нас нет или, наоборот, не пишем что есть.

Что это значит с точки зрения ^[10] будущего применения ИИ в медицине? А то что создаваемые, собираемые и в дальнейшем используемые для (до)обучения ^[11] данные не являются качественными. На основе этих некачественных данных ИИ будет предлагать некачественные рекомендации по лечению, таким образом, при хорошем варианте потраченные усилия будут бесполезны, а при плохом некорректные рекомендации будут приняты и принесут реальный вред здоровью или даже жизни пациента.

Эту проблему можно попробовать решить с точки зрения организации работы в здравоохранении и страховании: перейти частично на профилактическое лечение, чтобы не было необходимости преувеличивать критичность своего состояния. В это статье я пока не об этом, а о том, что совокупность факторов приводит нас к достаточно масштабной будущей проблеме в применении ИИ.

Теперь давайте соберём все факторы вместе:
1. ИИ будет применяться в Здравоохранении
2. Довольно скоро он может начать не только советовать врачу, но и действовать или советовать напрямую пациенту
3. Данные пациента на основе которых он будет давать свои рекомендации некачественны и постоянно создаются новые некачественные данные

Если у вас возникло ощущение, что я сгущаю краски, то хочу вам напомнить про одну из рассматриваемых проблем: “Сервис прогнозирования индивидуального течения онкологических заболеваний” где ошибка буквально может стоить пациенту жизни.

Конечно, это пока только потенциальная проблема и некоторые учёные уже говорят о необходимости доверять ИИ для использования ^[12] и действуют в этом направлении, а наши с вами соотечественники справедливо не до конца доверяют ИИ, согласно того же опроса ВЦИОМ ^[6].

В качестве заключения хочу сказать что если мы не хотим в ближайшем будущем вместо помощи получить дополнительные проблемы от ИИ, то надо уже сейчас обратить на эту проблему внимание ^[13], оценить её и подумать о возможных вариантах решения.

Я уже начал думать, присоединяйтесь!