Руководство компании OpenAI считает, что не нужно стремиться к полной автоматизации мира с помощью искусственного интеллекта. Гендиректор Сэм Альтман и главный научный сотрудник Якуб Пахоцкий заявили, что «отчётливо понимают риски», несмотря на все преимущества ИИ для продуктивности.
«Полная автоматизация абсолютно всего — это не то будущее, которого мы хотим. Это было бы пустым и опасным», — написали они.
Руководство компании подчеркнуло, что ИИ-системы должны быть безопасными и подконтрольными человеку. Они уверены, что по мере роста возможностей нейросетей человеческие роли будут становиться только важнее. Альтман и Пахоцкий уверены, что за людьми должны оставаться такие опции, как «определение направлений, поиск компромиссов, вынесение суждений, а также привнесение в работу ценностей, вкуса, заботы и ответственности».
«Наша первоочередная задача — создавать ИИ на службе человечества. Это означает, что мы хотим расширить возможности людей в целом, а не допустить концентрации власти в руках нескольких компаний, правительств или отдельных лиц. Мы считаем, что более безопасное будущее — это будущее, где власть распределена широко, чтобы больше людей в мире могли участвовать в создании устойчивой экосистемы», — заключили Альтман и Пахоцкий.
Ранее в Anthropic один из сотрудников признался, что уже не успевает за процессами автоматизации и теряется, когда ИИ совершает ошибки. Сама компания официально призвала замедлить темпы разработки ИИ, чтобы «дать возможность социальным структурам и исследованиям в области безопасности успевать за технологиями».
Между тем сама OpenAI конфиденциально подала заявку на первичное публичное размещение акций (IPO). Оценка компании после раунда инвестиций составила $852 млрд.
Автор: maybe_elf
