Исследование: сгенерированные ИИ пароли выглядят сложными, но взламываются за несколько часов

Компания Irregular, специализирующаяся на безопасности с использованием ИИ, изучила ^[1] Claude, ChatGPT и Gemini и обнаружила, что все три инструмента выдавали, казалось бы, надёжные пароли, которые на самом деле было легко взломать.

При попытке сгенерировать 16-значные пароли, содержащие специальные символы, цифры и буквы в разных регистрах, получались сложные сочетания. Когда их пропускали через онлайн-сервисы проверки надёжности паролей, результаты оказывались очень высокими. Некоторые сервисы утверждали, что для взлома таких паролей на стандартном ПК потребовались бы столетия.

Однако в Irregular обнаружили, что все три чат-бота генерировали пароли с распространёнными шаблонами. Если бы хакеры их понимали, то могли бы использовать эти знания для разработки стратегий перебора.

Исследователи использовали Claude, запустив модель Opus 4.6. ИИ в разных диалогах 50 раз задавали запрос на генерацию пароля. Из 50 полученных вариантов только 30 были уникальными, а 18 представляли собой одну и ту же строку. При этом подавляющее большинство паролей начиналось и заканчивалось одними и теми же символами. При этом ни в одном из 50 паролей не было повторяющихся символов, и это указывает на то, что они не были по-настоящему случайными.

Тесты с использованием OpenAI GPT-5.2 и Google Gemini 3 Flash также выявили согласованность между всеми полученными паролями, особенно в начале строк.

Аналогичные результаты были получены при запросе к модели генерации изображений Google Nano Banana Pro. В Irregular задали ей тот же запрос, но с просьбой вернуть случайный пароль, написанный на стикере Post-It, и обнаружил те же шаблоны в результатах.

В The Register повторили тесты, используя Gemini 3 Pro. ИИ попросили выдать три варианта паролей (высокая сложность, большое количество символов и случайный буквенно-цифровой код), и первые два в целом следовали схожим закономерностям, в то время как третий вариант оказался случайным.

Примечательно, что Gemini 3 Pro возвращал пароли вместе с предупреждением о безопасности, отмечая, что их не следует использовать для конфиденциальных учётных записей. ИИ также предлагал вместо этого генерировать кодовые фразы, которые, по легче запомнить, либо рекомендовал пользователям выбрать сторонний менеджер паролей, такой как 1Password, Bitwarden или встроенные менеджеры для iOS и Android.

Компания Irregular оценила сгенерированные пароли, используя формулу энтропии Шеннона и понимая вероятности появления символов на основе закономерностей, отображаемых в результате 50 запросов. Команда использовала два метода оценки энтропии: статистику символов и логарифмические вероятности. Они обнаружили, что энтропия 16-символьных паролей, сгенерированных с помощью LLM, составляет около 27 и 20 бит соответственно. Для действительно случайного пароля метод статистики символов ожидает энтропию в 98 бит, в то время как метод, использующий логарифмические вероятности самого LLM, ожидает энтропию в 120 бит.

Таким образом, сгенерированные пароли можно успешно взломать методом перебора за несколько часов даже на компьютере.

В конечном итоге, это открытие может положить начало новой эре перебора паролей, считает Irregular. В статье также приводятся предыдущие комментарии генерального директора Anthropic Дарио Амодея, который в прошлом году заявил, что ИИ, вероятно, будет писать большую часть всего кода. Если это правда, то генерируемые им пароли не будут такими безопасными, как ожидалось.

«Людям и программистам не следует полагаться на LLM для генерации паролей. Пароли, сгенерированные с помощью прямого вывода LLM, принципиально слабы, и это нельзя исправить с помощью подсказок или корректировок: ИИ оптимизированы для получения предсказуемых, правдоподобных результатов, что несовместимо с генерацией безопасных паролей», — заявили в Irregular. 

Команда также заявила, что разработчикам следует проверять любые пароли, сгенерированные с помощью LLM, и соответствующим образом менять их. 

В конце 2025 года Comparitech представила ^[2] результаты исследования паролей, утёкших в прошлом году. Компании удалось проанализировать более 2 млрд учётных записей из утечек в даркнете и из официальных отчётов. В топ самых слабых и часто раскрываемых паролей попали 123456, 12345678, 123456789, admin и 1234. 65,8% проанализированных экспертами паролей содержали менее 12 символов, 6,9% — менее 8, 3,2% — 16 и более.