Reuters выпустило публикацию, посвящённую тому, как с расширением внедрения искусственного интеллекта в медицинское оборудование растёт и число сообщений о хирургических ошибках или ошибках при распознавании анализов.
В 2021 году подразделение медицинского гиганта Johnson & Johnson объявило о «прорыве»: оно добавило искусственный интеллект в медицинское устройство, используемое для лечения хронического синусита или воспаления пазух носа. Его разработчик, компания Acclarent, заявила, что программное обеспечение для её системы TruDi теперь будет использовать алгоритм машинного обучения для оказания помощи специалистам по заболеваниям уха, горла и носа во время операций. По данным компании, программное обеспечение использует машинное обучение для идентификации определённых сегментов анатомии пациента и расчёта «кратчайшего, допустимого пути между двумя точками, указанными врачом». Технология предназначена для упрощения планирования хирургических процедур и предоставления обратной связи в режиме реального времени во время таких процедур, как операции на пазухах носа.
Устройство отозвали после того, как оно пробыло на рынке около трёх лет. До этого Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США получало неподтверждённые сообщения о семи случаях его неисправности и ещё одно — о травме пациента. Когда в работу гаджета добавили ИИ, FDA получило неподтверждённые сообщения как минимум о 100 сбоях и нежелательных событиях. Согласно отчётам, по меньшей мере 10 человек получили травмы в период с конца 2021 года по ноябрь 2025-го. В большинстве случаев, предположительно, причиной стали ошибки, когда навигационная система TruDi вводила хирургов в заблуждение относительно местоположения инструментов во время операций на черепе. Сообщается, что в итоге у одного пациента произошла утечка спинномозговой жидкости из носа. В другом случае хирург по ошибке проколол основание черепа пациента. В двух других случаях люди, предположительно, перенесли инсульт после случайного повреждения крупной артерии.
Так, в одном случае в июне 2022 года хирург ввёл небольшой баллон в носовую полость пациентки Эрин Ральф в больнице в Форт-Уорте, штат Техас. Согласно иску, поданному Ральф, доктор Марк Дин использовал навигационную систему TruD для ориентации своих инструментов. Обычно процедура, известная как синусопластика, является малоинвазивной. Баллон надувается, чтобы расширить отверстие пазухи, обеспечить лучший отток слизи и снять воспаление. Однако, согласно иску, система TruDi «ввела Дина в заблуждение и дезинформировала его». Предположительно, была повреждена сонная артерия, снабжающая кровью мозг, лицо и шею, что привело к образованию тромба. При этом собственные записи Дина показывают, что он «даже не подозревал, что находится рядом с сонной артерией». После выписки из больницы стало ясно, что Ральф перенесла инсульт. Мать четверых детей вернулась в больницу и провела пять дней в реанимации. Часть её черепа была удалена, «чтобы дать место для отёка».
В мае 2023 года Дин использовал TruDi во время другой операции по синусопластике, а пациентка Донна Фернихоу впоследствии заявила, у неё «лопнула» сонная артерия, и кровь «брызгала повсюду». Согласно иску, в день операции женщина перенесла инсульт.
Согласно судебным документам, Acclarent отрицает обвинения и заявляет, что не разрабатывала и не производила систему TruDi, а только распространяла её.
По данным федеральной базы данных Open Payments, отслеживающей финансовые связи между компаниями и врачами, Дин начал консультировать Acclarent в 2014 году и получил от компании более $550 тысяч в качестве гонораров. По меньшей мере $135 тысяч связаны с системой TruDi.
Поскольку отчёты FDA об устройствах могут быть неполными, неясно, какую роль ИИ мог сыграть в этих событиях. Две женщины, пострадавших от инсульта, утверждают, что системы TruDi способствовал их травмам. «Продукт, возможно, был безопаснее до внесения изменений в программное обеспечение для интеграции искусственного интеллекта, чем после внедрения этих модификаций», — говорится в одном из исков.
Integra LifeSciences же заявила журналистам, что отчёты «лишь указывают на то, что система TruDi использовалась во время операции, в ходе которой произошло неблагоприятное событие». Компания добавила, что «нет никаких убедительных доказательств причинно-следственной связи между TruDi, технологией ИИ и любыми предполагаемыми травмами».
В настоящее время в США FDA одобрило по меньшей мере 1357 медицинских устройств, использующих ИИ. Система TruDi — не единственная, которая оказалась в центре критики: агентство получало сообщения о десятках других устройств с поддержкой ИИ, включая кардиомонитор, который, как утверждается, не замечал аномальных сердечных сокращений, и ультразвуковой аппарат, который, предположительно, неправильно определял части тела плода.
Исследователи из университетов Джонса Хопкинса, Джорджтауна и Йеля недавно обнаружили, что 60 одобренных FDA медицинских устройств с ИИ были связаны со 182 отзывами. Обзор издания JAMA Health Forum показал, что 43% отзывов произошли менее чем через год после того, как устройства были одобрены. Это примерно вдвое выше показателя отзыва всех устройств, одобренных в соответствии с аналогичными правилами FDA.
Бум ИИ создаёт проблему для регулятора, сообщили Reuters пять нынешних и бывших сотрудников агентства: оно изо всех сил пытается справиться с потоком медицинских устройств с поддержкой ИИ, претендующих на одобрение, после потери ключевых работников. Около четырёх лет назад FDA расширило штат учёных, специализирующихся на искусственном интеллекте, в частности, для проверки медицинских устройств визуализации и радиологии. Многие из новых сотрудников были направлены в Отдел визуализации, диагностики и надёжности программного обеспечения (DIDSR). Это подразделение стало ключевым ресурсом агентства по оценке безопасности ИИ в медицине. В начале прошлого года его численность выросла примерно до 40 человек. Привлечь лучших специалистов на государственную службу было непросто, так как их нужно было убедить отказаться от более высокой зарплаты в частном секторе. В своей работе учёные пытались «взломать» модели ИИ устройств. Они тестировали алгоритмы в различных клинических ситуациях и проверяли, ухудшается ли производительность ИИ с течением времени. Они также стремились свести к минимуму «галлюцинации», когда модели ИИ иногда генерируют ложную информацию. Это объясняется тем, для одобрения новых медицинских устройств, в которые был внедрён ИИ, не нужно проводить тесты на пациентах, в отличие от проверки медикаментов.
Однако в начале прошлого года администрация Дональда Трампа начала расформировывать группу по разработке ИИ в рамках кампании Илона Маска по сокращению расходов. По словам инсайдеров FDA, около 15 из 40 учёных-специалистов по ИИ в подразделении DIDSR были уволены или решили уйти. Другое подразделение, разрабатывавшее политику в отношении устройств, использующих ИИ, — Центр передового опыта в области цифрового здравоохранения — потеряло около трети своего персонала, насчитывавшего около 30 человек.
Эндрю Никсон, представитель Министерства здравоохранения и социальных служб США, заявил, что FDA применяет те же строгие стандарты к медицинским устройствам, использующим машинное обучение и другие технологии ИИ, что и к любому другому продукту. «Безопасность пациентов — наивысший приоритет FDA, и она находится в центре нашей работы по защите и укреплению общественного здоровья», — сказал Никсон. Он отметил, что FDA продолжает набор персонала.
Однако производители всё равно находят лазейки в законодательстве. Так, для получения разрешения от управления они ссылаются на предыдущее одобрение, выданное компании на это же устройство, в котором прежде не использовался ИИ, объяснил преподаватель медицинской школы Университета Вашингтона в Сент-Луисе Александр Эверхарт. По его словам, это давно устоявшаяся практика. «Я думаю, что традиционный подход FDA к регулированию оборота медицинских изделий не справляется с задачей обеспечения безопасности и эффективности технологий, использующих искусственный интеллект», — заключил Эверхарт.
Между тем в 2025 году сообщалось, что ИИ впервые самостоятельно выполнил сложную хирургическую операцию на животном. Он управлял роботом DaVinci. Отмечалось, что ИИ-система SRT-H продемонстрировала точность, сравнимую с работой опытного хирурга. Она построена на основе нейросетей типа трансформеров — модели, которые умеют учитывать весь контекст и принимать решения шаг за шагом.
Автор: maybe_elf
