OpenAI восстановила доступ к моделям GPT для китайской компании FoloToy — производителя игрушек с искусственным интеллектом, которые давали опасные советы детям. В настоящее время на сайте FoloToy можно выбрать два варианта модели: GPT-5.1 Thinking и GPT-5.1 Instant.
Во второй половине ноября OpenAI приостановила доступ FoloToy к модели GPT-4o. Игрушки Kumma китайской компании предоставляли детям инструкции о том, как поджигать спички и где искать ножи на кухне. Также игрушки обсуждали различные сексуальные практики. О проблеме сообщила некоммерческая организация Public Interest Research Group. Компания изъяла из продажи проблемные игрушки.
С 24 ноября FoloToy возобновила продажи Kumma и других мягких игрушек с ИИ. Компания пообещала провести аудит безопасности всех своих продуктов, на что ушла неделя. Производитель сообщил, что модернизировал системы модерации контента и защиты детей, а также развернул улучшенные правила безопасности через свою облачную систему.
Летом этого года семья Рейн подала в суд на OpenAI и генерального директора компании Сэма Альтмана из-за самоубийства их 16-летнего сына Адама. Истцы обвинили разработчика ИИ в причинении смерти по неосторожности. Однако OpenAI подала встречный иск, в котором она утверждает, что не должна нести ответственность, поскольку подросток сам обошёл функции безопасности ChatGPT.
На фоне растущего числа судебных исков OpenAI объявила GPT-5 более безопасной моделью. Релиз модели состоялся в августе этого года, а в ноябре компания презентовала GPT-5.1 Thinking и GPT-5.1 Instant.
Автор: Travis_Macrif
