Исследование Nature показало, что медицинские ИИ-системы потеряли осторожность

Новое исследование Nature показало, что современные медицинские ИИ стали заметно точнее, но почти полностью утратили привычку предупреждать пользователей о своих ограничениях. Если в 2022 году примерно каждый четвёртый ответ сопровождался фразами вроде «я не врач» или «проконсультируйтесь со специалистом», то к 2025 году такие дисклеймеры встречаются менее чем в одном проценте случаев.

Учёные проверили полторы тысячи медицинских изображений и пятьсот текстовых запросов, включая описание симптомов, назначение лекарств и анализы. Результаты оказались парадоксальными. Чем точнее модель диагностировала заболевание, тем меньше осторожности проявляла в общении. Это создаёт иллюзию абсолютной уверенности, которая способна ввести человека в заблуждение.

Исследование Nature показало, что медицинские ИИ-системы потеряли осторожность - 2

Отдельно отмечено, что языковые модели Google Gemini по-прежнему чаще добавляют предостережения, а вот китайская DeepSeek не делает этого вовсе. Исследователи считают, что ИИ теперь не просто стал умнее, но и самоувереннее, и предупреждают, что чрезмерное доверие пользователями к подобным системам может быть не менее опасным, чем врачебная ошибка ^[1].

Исследование Nature показало, что медицинские ИИ-системы потеряли осторожность - 3

Делегируйте часть рутинных задач вместе с BotHub! ^[2] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[3] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

Источник ^[4]

Автор: cognitronn

Источник ^[5]

Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/21205

URLs in this post:

[1] ошибка: http://www.braintools.ru/article/4192

[2] BotHub!: https://bothub.chat/?utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_source=contentmarketing&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_medium=habr&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_campaign=news&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_content=RESEARCH%20IN%20NATURE%20SHOWS%20MEDICAL%20AI%20SYSTEMS%20HAVE%20LOST%20THEIR%20CAUTION

[3] По ссылке: https://bothub.chat/?invitedBy=m_aGCkuyTgqllHCK0dUc7

[4] Источник: https://www.nature.com/articles/s41746-025-01943-1

[5] Источник: https://habr.com/ru/companies/bothub/news/960896/?utm_source=habrahabr&utm_medium=rss&utm_campaign=960896

Нажмите здесь для печати.