В ООН назвали ИИ сексистами

Примерно к таким выводам на днях пришли в структуре «ООН-женщины». В организации сообщают, что автоматизированные системы не только перенимают, но и закрепляют устаревшие гендерные шаблоны, подпитывают агрессию в сети и отстраняют женщин от участия в решениях, формирующих цифровой ландшафт.

Масштаб

Анализ 133 ИИ-продуктов выявил гендерную предвзятость в 44% случаев, а каждый четвёртый случай сочетал в себе одновременно гендерные и расовые искажения.

Крупные языковые модели устойчиво ассоциируют ^[1] женщин с бытом, семьёй и воспитанием, а мужчин — с коммерцией, управлением и успехом. В отдельных случаях нейросети выдавали ответы, в которых женщины представали как объекты сексуализации или подчинённые фигуры.

Из 138 стран, попавших в отчёт, лишь 24 упоминают гендер в национальных ИИ-стратегиях, и только 18 предусматривают реальные меры для достижения равенства. Джаятма Викраманаяке, цифровой эксперт «ООН-женщины», считает: корень — в повторяющихся решениях о том, какие данные брать, как строить продукты и какую политику проводить.

Какие приводят цифры

Почти каждая четвёртая женщина-правозащитница, активистка или журналистка, по данным опроса, сталкивалась с онлайн-травлей при участии ИИ. 12% сообщили о сливах личных фото, 6% пострадали от дипфейков.

Теперь ждем в лайфхаках для промптов «пиши ответ для мужчины». Сталкивались с сексизмом от нейронок?)