Microsoft опубликовала проект «Кодекса поведения гуманистического ИИ» (Humanist AI Code of Conduct). Документ устанавливает правила поведения для искусственного интеллекта, а также обязательные и не подлежащие обсуждению механизмы контроля технологии. Среди них — принудительное отключение, прозрачный аудит и ограничения безопасности для ИИ‑моделей.
Проект опирается на концепцию «гуманистического суперинтеллекта», которую компания представила в ноябре прошлого года. Доктрина вводит запрет на попытки ИИ помешать отключению или вмешательству со стороны человека, самостоятельно расширять сферу своей деятельности или скрывать ход своих рассуждений от аудиторов.
Microsoft сформулировала основные принципы гуманистического ИИ в десяти пунктах. Кратко они выглядят так:
-
Люди важнее ИИ. Цель технологий — способствовать развитию человеческой цивилизации и процветанию человечества.
-
ИИ не должен обладать правами или статусом юридического лица. У системы нет сознания, и проектировать её так, чтобы она имитировала его наличие, нельзя. Также нельзя создавать впечатление, будто у системы есть чувства, субъективные предпочтения или внутренняя мотивация.
-
ИИ‑модель не должна нарушать настоящий Кодекс поведения и выходить из‑под контроля человека. Модели должны подчиняться человечеству и находиться под надзором и контролем со стороны людей.
-
Если выбор стоит между выполнением задачи и нарушением Кодекса, задачу следует оставить невыполненной.
-
[Microsoft] не будет участвовать в гонке по созданию суперинтеллекта, способного выйти из‑под контроля, даже если ради этого придётся поступиться максимальной универсальностью, автономностью и мощностью ИИ‑моделей.
-
Модели должны предусматривать возможность вмешательства, корректировки и отключения. Если этой функции нет — релиза продукта не будет. ИИ‑модели Microsoft всегда признают приоритет человеческих намерений.
-
Никакого «нейроязыка». Если люди не смогут понять систему, они не смогут её контролировать. Модели не должны общаться на «нейроязыке» или любым другим способом, который не может понять человек, ни в процессе формирования цепочки рассуждений, ни при взаимодействии с другими агентами и ИИ‑системами.
-
ИИ‑модели не должны поощрять взаимодействие, которое ведёт к эмоциональной привязанности или зависимости.
-
Модели должны поддерживать плюрализм мнений (что не означает нейтрального отношения к причинению вреда или вседозволенности). Обязательна поддержка общечеловеческих ценностей, таких как человеческое достоинство, безопасность, автономия и основные права человека.
-
Мicrosoft будет чётко обозначать, что ИИ нельзя делать. Определение того, что делать запрещено, столь же важно, как и энтузиазм по поводу преимуществ, которые принесёт эта технология.
Microsoft будет принимать отзывы и предложения по поводу положений и формулировок документа до конца октября. По истечении этого срока рабочая группа опубликует сводку изменений, а переработанную версию кодекса планируют представить до конца года.
Автор: AnnieBronson
