- BrainTools - https://www.braintools.ru -
Инди‑разработчик Klub Kofta рассказал [1] о странном случае с AI‑поиском в Google. Один из игроков расспрашивал нейросеть об игре Operation Octo и получил информацию о ещё не вышедшем контент, включая точное название будущего персонажа. Эти данные хранились только в приватном Google‑документе.
Информация не появлялась в файлах игры, социальных сетях и других публичных источниках. Запросы к Google отправлял не сам автор, а пользователь без доступа к документу. Кроме того, он делал это в режиме инкогнито. Всё это не помешало AI‑поиску назвать точное имя нового персонажа — Vantage Tripod. Вместе с этим нейросеть называла часть механик героя.
Один из разработчиков в комментариях рассказал, что тоже провёл эксперимент и расспросил нейросеть Google о своей игре. Языковая модель смогла назвать факты из закрытого документа, к которому был доступ только у него. При этом Claude не смог повторить результаты нейросети Google. Автор комментария предположил, что у Google есть доступ к файлам на своей платформе, поэтому данные могут попадать в выдачу.
В официальной документации Google отмечает, что Gemini может искать информацию в Gmail, документах и в облачном хранилище, но пользователь должен это явно разрешить. Кроме того, компания не использует пользовательские данные для обучения [2] моделей.
Автор: daniilshat
Источник [3]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/34111
URLs in this post:
[1] рассказал: https://www.reddit.com/r/IndieDev/s/kGA09SZIpF
[2] обучения: http://www.braintools.ru/article/5125
[3] Источник: https://habr.com/ru/news/1067976/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1067976
Нажмите здесь для печати.