Стэнфордское исследование предупредило о рисках личных советов от чат-ботов

Исследователи Stanford University опубликовали работу, в которой анализируется, насколько безопасно использовать чат-боты для получения личных и эмоционально чувствительных советов. Главный вывод — современные ИИ-модели часто дают ответы, которые выглядят уверенно и убедительно, но при этом могут быть неточными или упрощёнными в сложных жизненных ситуациях.

В исследовании отмечается, что пользователи склонны воспринимать ответы чат-ботов как более объективные и нейтральные, чем советы от людей. Это может приводить к завышенному доверию, особенно в вопросах, связанных с отношениями, психическим состоянием или важными жизненными решениями.

Отдельно подчёркивается проблема «персонализации»: модели подстраиваются под стиль общения пользователя и могут усиливать уже существующие убеждения вместо того, чтобы их критически корректировать. В результате ИИ иногда не помогает переосмыслить ситуацию, а закрепляет исходную точку зрения ^[1].

Учёные также указывают, что чат-боты не обладают реальным жизненным опытом ^[2] и не несут ответственности за последствия своих рекомендаций, поэтому их советы не могут заменять профессиональную помощь или консультации специалистов.

Работа Стэнфорда вписывается в более широкий контекст обсуждения роли ИИ в повседневной жизни: по мере того как модели становятся «дружелюбнее» и убедительнее, растёт и риск чрезмерного доверия к ним в чувствительных вопросах.

Делегируйте часть рутинных задач вместе с BotHub! ^[3] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[4] вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

Источник ^[5]