Социальная сеть X начала расследование из-за сообщений о расистских и оскорбительных публикациях, которые, как предполагается, были сгенерированы чатботом Grok от компании xAI. Об этом сообщает Sky News со ссылкой на собственные источники.
По данным журналистов, специалисты по безопасности платформы проверяют роль чатбота в создании «ненавистнических и расистских сообщений», появившихся в сети в ответ на запросы пользователей. Видео с объяснением ситуации опубликовал корреспондент Sky News Роб Харрис в официальном аккаунте издания на платформе X.
Компании X и xAI пока не дали официальных комментариев. Агентство Reuters также сообщило, что не смогло сразу подтвердить подлинность опубликованного видео.
Скандал происходит на фоне усиливающегося давления со стороны регуляторов и правительств разных стран на генеративные AI-системы. В последние месяцы власти в ряде государств начали расследования и потребовали дополнительных мер защиты из-за контента, который может генерировать чатбот Grok.
В январе компания xAI, основанная Илоном Маском, уже ввела ограничения для пользователей Grok. В частности, были ограничены функции редактирования изображений, а также заблокирована возможность генерировать изображения людей в откровенной одежде в странах, где подобный контент считается незаконным. При этом компания не уточнила, о каких именно юрисдикциях идёт речь.
История с Grok вновь поднимает вопрос о модерации контента и ответственности AI-разработчиков за материалы, которые могут появляться в результате работы генеративных моделей.
Больше полезного о нейросетях и технологиях — в нашем канале NH | Новости технологий, AI и будущее. Там публикуем новости AI, интересные сервисы, автоматизацию и реальные способы заработка на нейросетях. А если нужна зарубежная карта для оплаты сервисов — можно почитать здесь, как выпустить её за 10 минут.
Автор: TechLabNews
