Anthropic ищет эксперта, чтобы предотвратить «неправомерное использование» оружия с помощью ИИ
Американская компания в сфере искусственного интеллекта Anthropic ищет эксперта по химическому оружию и взрывчатым веществам большой мощности, чтобы предотвратить «катастрофическое неправомерное использование» своего программного обеспечения. Разработчик Claude опасается, что его ИИ-инструменты могут подсказать кому-то, как создавать химическое и радиоактивное оружие. Эксперт должен обеспечить достаточную надёжность защитных механизмов ПО.
