Anthropic ищет эксперта, чтобы предотвратить «неправомерное использование» оружия с помощью ИИ
Американская компания в сфере искусственного интеллекта Anthropic ищет эксперта по химическому оружию и взрывчатым веществам большой мощности, чтобы предотвратить «катастрофическое неправомерное использование» своего программного обеспечения. Разработчик Claude опасается, что его ИИ-инструменты могут подсказать кому-то, как создавать химическое и радиоактивное оружие. Эксперт должен обеспечить достаточную надёжность защитных механизмов ПО.
«При неправильном обращении небольшая доза может убить миллионы людей»: Grok AI подсказал рецепт отравляющего вещества
AI-евангелист Линус Экенстам (Linus Ekenstam) рассказал в своём профиле X, что нейросеть Grok 3 в режиме DeepSearch сгенерировала подробную инструкцию по созданию отравляющего вещества массового поражения. Языковая модель составила пошаговый план, приложила список покупок и рассказала как купить опасные реактивы без лицензии.
