Сэм Альтман заявил, что его тревожит будущее, в котором ИИ контролируют несколько крупных компаний

По словам гендиректора OpenAI Сэма Альтмана, его беспокоит перспектива того, что ИИ будет контролироваться несколькими крупными игроками. По его словам, это приведёт к тому, что люди не смогут влиять на то, как технология будет формировать мир.

«Правильный подход — позволить людям контролировать будущее. Общество и модели будут развиваться вместе», — заявил ^[1]Альтман в подкасте Дэвида Сенры.

Ещё одна тревожная перспектива, по его словам, заключается в том, что ИИ «освободится от человеческого контроля». При этом, как считает Альтман, страх ^[2] перед последним может привести к реализации первого.

«Некоторых так беспокоит этот риск, что они чувствуют необходимость защитить мир, пожертвовать частью свободы ради безопасности», — отметил он, по‑видимому, имея в виду генерального директора Anthropic Дарио Амодеи, который много раз предупреждал об опасностях, связанных с быстрым развитием ИИ.

В июне Амодеи опубликовал эссе о новых моделях Mythos, где заявил ^[3], что передовые ИИ‑модели представляют «очень реальные риски» для кибербезопасности, нацбезопасности, финансов и критической инфраструктуры. Компания Anthropic также стала единственной крупной компанией в сфере ИИ, которая не подписала письмо в поддержку моделей с открытым исходным кодом.