Google приостановила работу Gemma в AI Studio после клеветы
Google приостановила работу своей модели Gemma в AI Studio после того, как сенатор Марша Блэкберн обвинила систему в клевете. Инцидент начался с того, что пользователь задал модели вопрос о сенаторе, и в ответ Gemma сгенерировала ложные утверждения о якобы совершённом ею преступлении, добавив вымышленные ссылки на новостные сайты. После публикации этой истории офис сенатора направил официальное письмо генеральному директору Google Сундару Пичаи с требованием удалить модель.
В компании пояснили, что Gemma не предназначалась для публичного использования и была разработана как инструмент для разработчиков, а не как система проверки фактов. Однако из-за широкой доступности в AI Studio модель могла использоваться кем угодно, что и привело к инциденту. Сейчас Gemma временно убрана с платформы, хотя остаётся доступной через API для исследовательских целей.
Ситуация вызвала новую волну обсуждений о том, кто должен нести ответственность за ошибки [1] и галлюцинации ИИ. Эксперты отмечают, что подобные случаи могут повлиять на законодательство США, регулирующее использование генеративных моделей в публичных продуктах. Для Google же этот эпизод стал очередным напоминанием, что даже самые продвинутые языковые системы остаются источником потенциальных рисков, если их выпускать без ограничений.
Делегируйте часть рутинных задач вместе с BotHub! [2] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке [3] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Источник [4]
Автор: cognitronn
Источник [5]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/21466
URLs in this post:
[1] ошибки: http://www.braintools.ru/article/4192
[2] BotHub!: https://bothub.chat/?utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_source=contentmarketing&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_medium=habr&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_campaign=news&utm%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C%5C_content=GOOGLE%20SUSPENDED%20GEMMA%20WORK%20IN%20AI%20STUDIO%20AFTER%20DEFAMATION%20CLAIMS
[3] По ссылке: https://bothub.chat/?invitedBy=m_aGCkuyTgqllHCK0dUc7
[4] Источник: https://techcrunch.com/2025/11/02/google-pulls-gemma-from-ai-studio-after-senator-blackburn-accuses-model-of-defamation/
[5] Источник: https://habr.com/ru/companies/bothub/news/962840/?utm_source=habrahabr&utm_medium=rss&utm_campaign=962840
Нажмите здесь для печати.