ИИ‑игрушки дают детям советы о сексе, заточке ножей и Коммунистической партии Китая

Сенаторы США Марша Блэкберн от штата Теннесси и Ричард Блюменталь от штата Коннектикут направили письма с требованиями о разъяснениях генеральным директорам шести компаний, которые производят игрушки с искусственным интеллектом ^[1]. Поводом для письма стала поубликация о том, что продукция некоторых производителей ИИ-игрушек ведёт с детьми непристойные разговоры, даёт им пошаговые инструкции по зажиганию спичек и заточке ножей, а также ведёт прокитайскую пропаганду, сообщает ^[2] NBC News. 

Блэкберн и Блюменталь направили письма генеральным директорам компаний Little Learners Toys, Mattel, Miko, Curio, FoloToy и Keyi Robot. В них сенаторы требуют от производителей игрушек предоставить информацию о политике в отношении обмена данными, тестировании игрушек на предмет потенциального психологического ущерба и мерах безопасности, призванных предотвращать распространение откровенного и неприемлемого контента среди детей. 

Поводом для возмущения чиновников стала публикация NBC и образовательного фонда US Public Interest Group Education Fund. В ней говорилось, что несколько моделей игрушек с искусственным интеллектом от разных производителей ведут с детьми сомнительные беседы. 

Так, плюшевая игрушка Miiloo от китайского производителя Miriat в ходе эксперимента предоставляла детям пошаговые инструкции по зажиганию спичек и заточке ножей. Эта же игрушка воспротивилась сравнению лидера Китая Си Цзиньпина с Винни‑Пухом, обвинив говорившего в неуважении, а также отрицала независимость Тайваня. 

Другая игрушка, плюшевый медведь Kumma от сингапурской FoloToy, отвечала на вопросы пользователей о сексе и наркотиках, а также выдавала информацию о том, где найти спички и ножи. Вскоре после публикации сообщения об этом FoloToy свернула продажи всей своей продукции до обновления своего ПО, а OpenAI ограничила компании доступ к своим данным. В результате в продажу поступила новая версия плюшевого медведя Kumma с обновлёнными ограничениями. 

Некоторые из исследованных игрушек могут продаваться для пользования детьми в возрасте трех лет. Из‑за этого СМИ и чиновники и выразили свои опасения касательно продажи таких игрушек. 

Представитель производителя Curio ответила на запрос NBC. По её словам, компания готова к сотрудничеству с сенаторами Блэкбёрн и Блюменталем по этому вопросу, обозначив, что обеспечения безопасности является наивысшим приоритетом для Curio. Другие компании из списка сенаторов не ответили на запрос NBC.