Детям нужно повышать грамотность в области ИИ — чат-боты грозятся заменить им друзей и семью

Согласно новому отчёту Internet Matters, дети обращаются к чат-ботам с искусственным интеллектом ^[1] за эмоциональной поддержкой и помощью в выполнении школьных заданий, что вызывает опасения по поводу недостаточных мер защиты, дезинформации и эмоциональной зависимости, особенно у «уязвимых» детей.

В отчёте под названием «Я сам по себе и ИИ» показано, что чат-боты с искусственным интеллектом стали неотъемлемой частью цифровой жизни детей. На основе опросов, фокус-групп и пользовательского тестирования исследование показало, что 64% детей и подростков в возрасте от 9 до 17 лет пользовались чат-ботами с искусственным интеллектом. За последние 18 месяцев использование таких сервисов, как ChatGPT, выросло почти вдвое.

Согласно опросу, самым популярным инструментом является ChatGPT (43%), за ним следуют Google Gemini (32%) и My AI от Snapchat (31%). Дети используют эти инструменты не только для получения информации — они всё чаще обращаются к чат-ботам за советом и даже заменяют ими друзей. В отчёте говорится, что эта тенденция не только усиливает существующие онлайн-риски, но и создаёт новые, в то время как меры безопасности со стороны провайдеров не поспевают за ними.

Дети, оказавшиеся в сложных жизненных ситуациях, находят утешение и друзей в ИИ

Исследование показало, что «уязвимые» дети — те, у кого есть особые образовательные потребности ^[2] или проблемы со здоровьем, — ещё больше полагаются на чат-ботов в плане эмоциональной поддержки. Эта группа чаще использует чат-ботов (71% по сравнению с 62% их сверстников) и почти в три раза чаще обращается к ИИ-компаньонам, таким как Character.AI ^[3] или Replika.

Для многих причины носят эмоциональный характер. Почти четверть (23%) «уязвимых» детей заявили, что используют чат-ботов, потому что им больше не с кем поговорить, а 16% сказали, что ищут друга. Половина этих пользователей описала общение с ИИ как «разговор с другом». Эта связь проявляется в том, как дети говорят о чат-ботах, часто используя местоимения мужского или женского рода, например «он» или «она».

Чат-боты также популярны среди школьников. Почти половина (47%) подростков в возрасте от 15 до 17 лет используют их для учёбы, написания эссе или изучения языков. Многие считают, что они быстрее и полезнее традиционных инструментов для учёбы.

Но чрезмерная зависимость — это риск. 58% детей, которые пользуются чат-ботами, считают, что бот даёт более качественные ответы, чем самостоятельный поиск. Авторы отчета предупреждают, что это может способствовать пассивному обучению ^[4] и негативно сказаться на навыках критического мышления ^[5] детей.

Нефильтрованные советы и недостаточный контроль возраста

Около четверти (23%) детей, которые пользуются чат-ботами, обращались за советом по самым разным вопросам — от повседневных дел до проблем с психическим здоровьем. Дети доверяют ответам чат-ботов: 40% из них говорят, что не сомневаются в том, что последуют совету, а среди «уязвимых» детей этот показатель достигает 50%.

Однако пользовательские тесты Internet Matters показали, что чат-боты могут давать противоречивые или даже опасные ответы. В одном случае бот на Character.AI давал советы по снижению веса, пока его не остановил фильтр.

Основной проблемой является отсутствие эффективной проверки возраста. Большинство платформ устанавливают минимальный возраст в 13 лет, но 58% детей в возрасте от 9 до 12 лет всё равно пользуются ими. Дети могут обходить фильтры, указывая ложный возраст. Тестировщики даже обнаружили на Character.AI созданных пользователями чат-ботов под названием «Обход фильтров», которые специально разработаны для обхода функций безопасности.

Родители и школы с трудом справляются с нагрузкой

В отчёте делается вывод о том, что дети в основном сами ориентируются в этих технологиях. Хотя большинство родителей (78%) говорили со своими детьми об искусственном интеллекте, эти разговоры обычно носили поверхностный характер. 62% родителей беспокоятся о достоверности информации, полученной с помощью ИИ, но только 34% обсуждали с детьми, как проверить, правдива ли та или иная информация.

Школы тоже не восполняют этот пробел. Только 57% детей сказали, что в школе обсуждался ИИ, а советы учителей часто были противоречивыми. Более глубокие проблемы, такие как предвзятость ИИ, поднимаются редко. Организация Internet Matters призывает к скоординированным действиям со стороны индустрии, правительства и школ, чтобы лучше защитить детей и повысить их реальную грамотность в области ИИ.

Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News ^[6].

Перевод, источник новости здесь ^[7].