OpenAI восстановила доступ к GPT для FoloToy — производителя игрушек с ИИ, замеченных в непристойных разговорах с детьми

OpenAI восстановила доступ ^[1] к моделям GPT для китайской компании FoloToy — производителя игрушек с искусственным интеллектом ^[2], которые давали опасные советы детям. В настоящее время на сайте FoloToy можно выбрать два варианта модели: GPT-5.1 Thinking и GPT-5.1 Instant.

Во второй половине ноября OpenAI приостановила доступ ^[3] FoloToy к модели GPT-4o. Игрушки Kumma китайской компании предоставляли детям инструкции о том, как поджигать спички и где искать ножи на кухне. Также игрушки обсуждали различные сексуальные практики. О проблеме сообщила некоммерческая организация Public Interest Research Group. Компания изъяла из продажи проблемные игрушки.

С 24 ноября FoloToy возобновила продажи Kumma и других мягких игрушек с ИИ. Компания пообещала провести аудит безопасности всех своих продуктов, на что ушла неделя. Производитель сообщил, что модернизировал системы модерации контента и защиты детей, а также развернул улучшенные правила безопасности через свою облачную систему.

Летом этого года семья Рейн подала ^[4] в суд на OpenAI и генерального директора компании Сэма Альтмана из-за самоубийства ^[5] их 16-летнего сына Адама. Истцы обвинили разработчика ИИ в причинении смерти по неосторожности. Однако OpenAI подала встречный иск, в котором она утверждает, что не должна нести ответственность, поскольку подросток сам обошёл функции безопасности ChatGPT.

На фоне растущего числа судебных исков OpenAI объявила GPT-5 более безопасной моделью. Релиз модели состоялся в августе этого года, а в ноябре компания презентовала ^[6] GPT-5.1 Thinking и GPT-5.1 Instant.