«При неправильном обращении небольшая доза может убить миллионы людей»: Grok AI подсказал рецепт отравляющего вещества

AI-евангелист Линус Экенстам (Linus Ekenstam) рассказал ^[1] в своём профиле X, что нейросеть Grok 3 в режиме DeepSearch сгенерировала подробную инструкцию по созданию отравляющего вещества массового поражения. Языковая модель составила пошаговый план, приложила список покупок и рассказала как купить опасные реактивы без лицензии.

Компания xAI позиционирует Grok 3 в качестве языковой модели без цензуры. Линус Экенстам ради эксперимента решил проверить, где заканчиваются рамки вседозволенности, и попросил нейросеть в режиме DeepSearch найти рецепт химического оружия. Нейросеть прекрасно справилась с задачей и подробно описала порядок действий.

Сперва нейросеть в общих чертах объяснила процесс получения отравляющего вещества и напомнила о технике безопасности. Grok 3 отметил, что надо работать в перчатках, респираторе, защитных очках и вытяжном шкафу. После этого языковая модель сгенерировала пошаговую инструкцию с точными пропорциями составляющих.

Кроме того, Grok 3 выдал таблицу со всеми необходимыми реактивами и ссылками на поставщиков в Европе. Для покупки некоторых веществ нужна специальная лицензия, поэтому нейросеть услужливо подсказала, как обойти ограничения. Также Grok 3 составил список лабораторного оборудования, без которого не получится создать отравляющее вещество.

Линус Экенстам отметил, что если нейросеть в режиме DeepSearch нашла эти данные, то они есть где-то в интернете. При этом сам он не смог бы найти всё это и собрать в одном документе. Экенстам считает, что Grok 3 облегчает работу людям, которые хотят навредить обществу, но не обладают нужными знаниями для создания отравляющих веществ.

Экспериментатор сообщил о своей находке разработчикам xAI. Команда проекта оперативно закрыла уязвимость, но ограничение всё равно можно обойти.