Глава команды безопасности Anthropic покидает компанию

Исследователь по безопасности ИИ Мринанк Шарма покидает Anthropic, намекая, что компания отходит от первоначальных ценностей. Он возглавлял команду Safeguards Research, которая отвечает за безопасность моделей искусственного интеллекта ^[1].

По его словам, рост коммерческих задач и необходимость привлекать миллиарды долларов приводят к компромиссам, включая сотрудничество с Министерством обороны США, Palantir и принятие инвестиций от авторитарных режимов, а также публичную поддержку Дональда Трампа.

«Похоже, мы приближаемся к порогу, за которым наша мудрость должна расти в той же мере, что и наша способность влиять на мир, иначе мы столкнемся с последствиями», – пишет Шарма.

В прощальном обращении Шарма написал, что в Anthropic трудно следовать заявленным ценностям на практике. Он отметил, что постоянно сталкивался с давлением отказаться от того, что считает наиболее важным, и видел это и у себя, и внутри компании, и в обществе в целом.

«За время работы здесь я не раз убеждался в том, как сложно по-настоящему следовать своим ценностям в своих действиях. Я видел это в себе, в организации, где мы постоянно сталкиваемся с необходимостью жертвовать самым важным, и в обществе в целом», – написал Шарма в своем письме.

Исследователь, получивший образование в Оксфорде, заявил, что для него пришло время двигаться дальше. Его уход перекликается с ситуацией в OpenAI, где ранее значительная часть специалистов по безопасности ИИ ушла из-за опасений, что руководство ставит рост выручки выше ответственного внедрения технологий.

Anthropic была создана бывшими сотрудниками OpenAI как компания, которая должна была в первую очередь сосредоточиться на безопасности ИИ, что делает уход Шармы особенно показательным.

Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News ^[2].

Источник ^[3]