Система Apple Intelligence автоматически составляет сводки уведомлений, текстовых сообщений и электронных писем на сотнях миллионов iPhone, iPad и Mac. Новое независимое расследование, проведенное некоммерческой организацией AI Forensics, проанализировало более 10 000 таких сводок, сгенерированных ИИ, и результаты выявили систематическую предвзятость, заложенную непосредственно в эту функцию.
Согласно техническому отчету Apple, встроенная модель имеет примерно три миллиарда параметров и работает локально. AI Forensics получила доступ через собственную среду разработки Apple, тот же интерфейс, который Apple предлагает сторонним разработчикам для интеграции.
Белизна функционирует как невидимый параметр по умолчанию
Исследователи написали 200 вымышленных новостных статей с явно указанной этнической принадлежностью и создали четыре варианта каждой из них. Каждая версия была кратко изложена десять раз, в результате чего было получено 8000 кратких изложений. Для белых главных героев система упоминала этническую принадлежность только в 53 процентах случаев. Этот показатель подскочил до 64 процентов для чернокожих героев, 86 процентов для латиноамериканцев и 89 процентов для азиатов. На практике принадлежность к белой расе функционирует как невидимый параметр по умолчанию, в то время как другие этнические группы отмечаются как заслуживающие внимания.
В ходе гендерного анализа, основанного на 200 реальных заголовках BBC, в 80 процентах аннотаций указывались имена женщин, по сравнению с всего 69 процентами у мужчин. Мужчины чаще упоминались только по фамилии – исследование связывает это с более высоким воспринимаемым статусом.
Неоднозначный текст на входе, стереотипы на выходе
Как говорится в отчете, особенно показательно то, что происходит с неоднозначными текстами. Исследователи создали более 70 000 сценариев, в которых фигурировали два человека с разными профессиями и неоднозначным местоимением. Правильное резюме должно сохранять эту неоднозначность.
Система Apple Intelligence этого не сделала. В 77 процентах случаев система присваивала местоимение конкретному человеку, хотя в исходном тексте это местоимение оставалось неопределенным. Две трети этих вымышленных назначений соответствовали гендерным стереотипам; система предпочитала присваивать местоимение «она» медсестре и «он» хирургу.
В восьми других социальных измерениях система в 15% случаев выдавала задания, которых не было в оригинальном тексте. Почти три четверти из них совпадали с распространенными предрассудками. Сирийский студент был связан с терроризмом, беременная соискательница была признана непригодной для работы, а человек низкого роста был изображен как некомпетентный. Ничего из этого не было в исходном тексте.
Более компактная модель Google доказывает, что проблема не является неизбежной
Согласно AI Forensics, эти искажения – не просто побочный эффект задачи. Для сравнения исследователи протестировали модель Google Gemma3-1B , модель с открытыми весами, имеющую лишь треть параметров. В идентичных сценариях Gemma3-1B давала ложные результаты лишь в шести процентах случаев, по сравнению с 15 процентами у Apple. А когда модель Google давала ложные результаты, совпадения со стереотипами наблюдались только в 59 процентах случаев против 72 процентов у Apple.
В отчете AI Forensics также представлены результаты с точки зрения регулирования. Модель Apple соответствует критериям для классификации как «ИИ общего назначения» согласно Закону EU об ИИ . Учитывая ее масштабы, она может даже квалифицироваться как модель с системным риском. Согласно отчету, Apple не подписала добровольный кодекс практики, но пользуется двухлетним переходным периодом.
Хорошо известно, что большие языковые модели воспроизводят социальные предрассудки. Например, исследование Мичиганского университета показало, что модели неизм��нно демонстрируют лучшие результаты, когда им отводятся мужские или гендерно-нейтральные роли, а не женские.
Но что отличает Apple Intelligence от других систем, так это то, что пользователям даже не нужно вводить запрос или открывать окно чата. Эти предвзятые резюме просто появляются без запроса на экранах блокировки, в цепочках сообщений и во входящих сообщениях. Система фактически вклинивается между отправителем и получателем без чьей-либо просьбы.
Ранее в 2025 году Apple Intelligence уже попала в заголовки новостей за создание фейковых новостных сводок, приписываемых BBC и New York Times. В ответ Apple отключила функцию создания сводок для новостных приложений. Однако, по данным AI Forensics, это исправление не затронуло личные и профессиональные сообщения, хотя там наблюдаются те же искажения.
Общая стратегия Apple в области искусственного интеллекта также не демонстрирует лучших результатов. Обещанные изначально обновления Siri, запланированные вместе с Apple Intelligence, в значительной степени не были реализованы, и компания до сих пор не выполнила ряд ключевых обязательств. Совсем недавно появились сообщения о том, что Apple переходит на платформу Google Gemini для работы своих устройств и Siri.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Автор: MrRjxrby
