Компания OpenAI открыла вакансию исследователя безопасности искусственного интеллекта — соискателям предлагают зарплату в размере до $445 тысяч в год, пишет Business Insider. В описании вакансии говорится, что будущий сотрудник должен проявить «тактическое и стратегическое мышление» и быть готовым работать со сценариями, которые ранее были предметом научной фантастики.
OpenAI ищет специалиста, который будет исследовать риски «рекурсивного самосовершенствования». Так называют сценарий, при котором ИИ‑модели будут самостоятельно создавать и обучать более мощные версии ИИ‑систем. Ранее такие сценарии обсуждались лишь в академической среде или научной фантастике, однако теперь OpenAI нанимает специалиста, который будет заниматься исследованием подобных вопросов.
Одна из причин того, почему начали появляться такие вакансии — стремительный прогресс ИИ‑инструментов для программирования, которые заметно увеличили уровень автономности моделей. В итоге компании теперь нанимают специалистов по безопасности, управлению рисками и контролю автономных систем.
В вакансии OpenAI отмечается, что кандидату потребуется принимать решения в условиях высокой неопределённости с различными командами в структуре компании. Фактически OpenAI ищет не столько инженера, сколько человека, способного переводить абстрактные угрозы уровня «а что если модель станет слишком автономной» в конкретные технические меры. В описании отдельно подчеркивается, что сотруднику придется быстро собирать «грязные прототипы», договариваться с другими командами и работать в условиях слабой обратной связи. То есть — принимать решения по проблемам, для которых пока нет ни стандартов, ни проверенных практик.
Автор: avouner
