Apple улучшает модели ИИ без доступа к личным данным пользователей

Apple заявляет, что нашла способ улучшить свои модели искусственного интеллекта ^[1], не обучая их на данных пользователей и даже не копируя их с их iPhone и Mac. В сообщении в блоге, впервые опубликованном ^[2]агентством Bloomberg ^[3], компания рассказала о своих планах по сравнению синтетического набора данных с образцами недавних электронных писем или сообщений пользователей, которые присоединились к программе Device Analytics.

Устройства Apple смогут определять, какие синтетические входные данные наиболее близки к реальным образцам, и передавать их компании, отправляя «только сигнал, указывающий, какой из вариантов наиболее близок к выбранным данным». 

Таким образом, по словам Apple, она не получает доступ к пользовательским данным, и эти данные никогда не покидают устройство. Затем Apple будет использовать наиболее часто выбираемые поддельные образцы для улучшения результатов работы ИИ, таких как краткие изложения электронных писем.

В настоящее время Apple обучает свои модели искусственного интеллекта только на синтетических данных, что потенциально может привести к менее полезным результатам, по мнению Марка Гурманна из Bloomberg. Apple испытывала трудности с запуском своих флагманских функций Apple Intelligence, поскольку отложила ^[4] выпуск некоторых возможностей и заменила главу ^[5] своей команды Siri.

Но теперь, по словам Гурман, Apple пытается всё изменить, представив свою новую систему обучения ^[6] ИИ в бета-версии iOS и iPadOS 18.5, а также macOS 15.5.

Apple рекламирует использование метода под названием ^[7] «дифференциальная конфиденциальность» для защиты пользовательских данных как минимум с 2016 года, когда была выпущена iOS 10, и уже использовала его для улучшения функции Genmoji на основе ИИ ^[8]. 

Это также относится к новым планам компании по обучению ИИ, поскольку Apple заявляет, что добавление случайной информации в более широкий набор данных поможет предотвратить привязку данных к какому-либо конкретному человеку.

Источник ^[9]