Известные люди из мира IT призвали запретить разработку сверх-ИИ, пока не будет доказана его безопасность

Сотни влиятельных фигур, от Стива Возняка до Ричарда Брэнсона, подписали открытое письмо с призывом запретить разработку сверхразума на основе искусственного интеллекта ^[1], пока учёные не достигнут консенсуса о его безопасности и управляемости.

Документ под названием Statement on Superintelligence ^[2] подготовила организация Future of Life Institute (FLI). В число тех, кто его подписал, вошли два «крёстных отца ИИ» — Джеффри Хинтон и Йошуа Бенджио. В список также попали соучредитель Apple Стив Возняк, основатель Virgin Group Ричард Брэнсон, бывший главный стратег президента США Дональда Трампа Стив Бэннон, бывший председатель Объединённого комитета начальников штабов Майк Маллен и другие. Кроме того, поддержку инициативе выразили Гарри и Меган, герцог и герцогиня Сассекские.

Среди тех, кто не поддержал инициативу, оказались генеральный директор OpenAI Сэм Альтман, соучредитель DeepMind и руководитель ИИ-подразделения Microsoft Мустафа Сулейман, глава Anthropic Дарио Амодеи, советник Белого дома по ИИ и криптовалютам Дэвид Сакс, а также основатель xAI Илон Маск. Последний ранее подписал письмо FLI 2023 года с призывом приостановить разработку ИИ-моделей, более продвинутых, чем GPT-4.

В письме приводятся результаты недавнего опроса FLI, согласно которому только 5% американцев поддерживают быструю и нерегулируемую разработку передовых ИИ-моделей. Более 73% выступают за жёсткое регулирование ИИ, а около 64% считают, что создание сверхразума, то есть модели ИИ, превосходящей человеческий интеллект, необходимо запретить до подтверждения её безопасности и контролируемости.

Активисты предупреждают, что стремительное развитие ИИ может привести к потере рабочих мест и экономическому кризису, а также представлять угрозу для гражданских свобод, национальной безопасности и самому существованию человечества.

«Многие мечтают о мощных ИИ-инструментах для науки, медицины, производительности и других целей. Но гонка ИИ-корпораций за искусственным интеллектом, превосходящим человеческий и призванным заменить людей, совершенно не соответствует тому, чего хочет общественность» — заключает соучредитель FLI Энтони Агирре.