Google приостановила работу своей модели Gemma в AI Studio после того, как сенатор Марша Блэкберн обвинила систему в клевете. Инцидент начался с того, что пользователь задал модели вопрос о сенаторе, и в ответ Gemma сгенерировала ложные утверждения о якобы совершённом ею преступлении, добавив вымышленные ссылки на новостные сайты. После публикации этой истории офис сенатора направил официальное письмо генеральному директору Google Сундару Пичаи с требованием удалить модель.
В компании пояснили, что Gemma не предназначалась для публичного использования и была разработана как инструмент для разработчиков, а не как система проверки фактов. Однако из-за широкой доступности в AI Studio модель могла использоваться кем угодно, что и привело к инциденту. Сейчас Gemma временно убрана с платформы, хотя остаётся доступной через API для исследовательских целей.
Ситуация вызвала новую волну обсуждений о том, кто должен нести ответственность за ошибки и галлюцинации ИИ. Эксперты отмечают, что подобные случаи могут повлиять на законодательство США, регулирующее использование генеративных моделей в публичных продуктах. Для Google же этот эпизод стал очередным напоминанием, что даже самые продвинутые языковые системы остаются источником потенциальных рисков, если их выпускать без ограничений.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Автор: cognitronn
