Apple ввела новые правила для App Store против интимных ИИ‑дипфейков

Apple обновила ^[1] «Правила проверки приложений» (App Review Guidelines), внеся ряд изменений, направленных на усиление защиты от вредоносного контента и недобросовестных практик при модерации. 

Только за последний год появилось немало сообщений и скандалов, связанных с приложениями, которые обходят правила Apple, подвергая пользователей — в том числе несовершеннолетних — воздействию вредоносного или неуместного контента.

В январе организация Tech Transparency Project (TTP) обнаружила в App Store десятки приложений на базе искусственного интеллекта ^[2], предназначенных для создания «обнаженных» изображений (так называемые «nudify»).

В апреле та же группа опубликовала дополнительное исследование, показавшее, что поисковые подсказки и рекламные объявления в App Store также направляли пользователей к подобным продуктам. В июле власти Сан‑Франциско потребовали от Apple удалить восемь приложений, способных генерировать интимные изображения без согласия людей, запечатлённых на них.

В июле издание 9to5Mac опубликовало расследование, в ходе которого были выявлены десятки приложений, маскирующих азартные игры под безобидные игры или утилиты, чтобы обойти проверку App Store; многие из них были доступны детям.

При запуске из‑за пределов Бразилии такие приложения работали в соответствии с заявленным функционалом, однако при использовании бразильского IP‑адреса в них открывались скрытые платформы для азартных игр.

Кроме того, возник скандал вокруг чат‑бота Grok, разработанного компанией Илона Маска: выяснилось, что с его помощью создавались сексуализированные изображения женщин и несовершеннолетних без их согласия. Это побудило законодателей и общественные организации потребовать от Apple удалить платформу X и чат‑бота Grok из App Store. Позже Apple подтвердила, что в частном порядке предупредила компанию xAI: если проблема не будет решена, Grok может быть удалён из магазина.

Теперь Apple обновила ^[3] «Правила проверки приложений», стремясь решить подобные проблемы. В разделе 1.2, посвящённом пользовательскому контенту, теперь содержится следующая формулировка: «Приложения, позволяющие пользователям создавать, генерировать, загружать, распространять контент или иным образом участвовать в его создании, сопряжены с особыми рисками, включая нарушение прав интеллектуальной собственности, создание интимных изображений без согласия участников и анонимную травлю».

В новых правилах Apple также указано: «Разработчики, которые не внедряют надлежащие меры защиты или не устраняют выявленные нарушения после получения соответствующего уведомления, могут быть признаны нарушившими „Кодекс поведения ^[4] разработчиков“ (Developer Code of Conduct)». 

Ещё одно важное изменение касается ужесточения правил в отношении так называемых приложений с «подменой функционала» (bait‑and‑switch). По определению Apple, это программы, которые «искажают свое назначение в процессе проверки, а после одобрения демонстрируют вредоносные возможности» — например, функцию «раздевания» людей.

В новый пункт 2.5.19 включено следующее положение: «В приложении не должно быть скрытых, неактивных или недокументированных функций; его функциональные возможности должны быть понятны как конечным пользователям, так и специалистам, проводящим проверку (App Review). Попытки скрыть недокументированные функции в бинарном коде приложения — например, путем его обфускации или другими методами — являются основанием для удаления приложения из App Store и аннулирования учётной записи разработчика».

Хотя запрет на наличие скрытых функций уже содержался в пункте 2.3.1, теперь Apple сформулировала это правило более чётко: в частности, прямо упоминается обфускация кода, а также подчёркивается, что подобные нарушения могут привести к удалению приложения и закрытию аккаунта разработчика.

Наконец, в разделе 5 («Юридические аспекты») Apple ужесточила формулировки, касающиеся приложений, которые способствуют торговле людьми или эксплуатации детей. Теперь там прямо указано, что такие приложения «будут удалены из App Store, а их распространение через альтернативные каналы — заблокировано».

Весной сообщалось, что App Store незаметно принимает ^[5] меры против приложений, использующих искусственный интеллект для вайб‑кодинга. Теперь такие приложения нарушают правила магазина, запрещающие запускать код, изменяющий их собственную функциональность или функциональность других сервисов.