Эксперт по кибербезопасности UserGate Светлана Газизова выделила несколько ключевых факторов риска при использовании ИИ-сервисов в России. В тройке лидеров оказались: отсутствие критического мышления пользователей, утечки через чат-боты и применение ИИ несовершеннолетними.
По данным исследований, около 34% россиян старше 12 лет ежемесячно обращаются к ИИ-сервисам, что выводит страну в число 20 мировых лидеров по внедрению нейросетей. Однако массовое распространение технологии сопровождается ростом угроз информационной безопасности и требует от россиян соблюдения правил цифровой гигиены.
Несмотря на то, что около 32 млн жителей страны активно применяют генеративный ИИ через браузеры, чат-боты и мобильные приложения, пользователи зачастую недооценивают потенциальные угрозы. Риски исходят не только от киберпреступников, использующих дипфейки и фишинговые схемы, но и от неосторожного поведения самих пользователей при взаимодействии с нейросетями.
По мнению эксперта UserGate, первая группа связана с отсутствием критического восприятия информации. Россияне склонны излишне доверять ИИ-сервисам и не перепроверяют полученные данные, перекладывая на алгоритмы когнитивные функции.
«Характерный пример: семья планировала зарубежный отпуск и уточнила у нейросети визовые требования. ИИ уверенно ответил, что виза не нужна. Были куплены билеты и забронирован отель, однако в аэропорту пассажирам отказали в посадке из-за отсутствия документов. Итог — финансовый урон и сорванный отдых. Это типичный пример того, как ИИ искажает факты, а пользователь теряет бдительность», — отмечает Светлана Газизова, владелец продукта по безопасности ИИ UserGate.
Вторая группа рисков касается утечек конфиденциальной информации из-за излишнего доверия к чат-ботам. Россияне часто не осознают, как их данные используются для дальнейшего обучения моделей.
«Все, что отправляется в Сеть, потенциально может стать доступно третьим лицам. Уже зафиксированы случаи утечек, к которым привёл доступ ИИ к корпоративным и личным данным. Категорически нельзя загружать в LLM-модели сканы паспортов, финансовые документы или любую чувствительную информацию», — подчёркивает эксперт UserGate.
Отдельным направлением риска Светлана Газизова называет безопасность детей. Несовершеннолетние пользователи могут запрашивать у языковых моделей информацию, не предназначенную для их возраста, включая инструкции по созданию запрещённых веществ или деструктивному поведению. В связи с этим глобальные регуляторы усиливают контроль за ИИ-сервисами, ограничивая доступ к некоторым моделям для защиты несовершеннолетних.
Эксперт UserGate отмечает, что истинное назначение ИИ заключается не в генерации развлекательного контента, а в ускорении обучения с помощью быстрой обработки и анализа больших массивов данных. При этом языковые модели, обучающиеся на недостоверной информации из открытого интернета, подвержены «галлюцинациям» — непроизвольному искажению данных.
«Относиться к ИИ-сервисам нужно крайне осторожно и обязательно верифицировать все полученные сведения. Только при условии строгого контроля со стороны человека искусственный интеллект станет эффективным инструментом, а не источником новых проблем», — резюмирует Светлана Газизова.
Автор: UserGate
