Anthropic помогла обнаружить более десятка серьёзных уязвимостей в Firefox

Несколько недель назад команда из Anthropic поделилась ^[1] с Mozilla результатами нового метода обнаружения уязвимостей с помощью искусственного интеллекта ^[2]. Он позволил выявить более десятка ошибок в системе безопасности, которые были исправлены до выхода стабильной версии Firefox 148 ^[3].

Команда Frontier Red Team из Anthropic связалась с разработчиками Firefox после того, как с помощью Claude выявила уязвимости в движке JavaScript. Важно отметить, что в отчётах об ошибках были указаны тестовые сценарии, которые позволили сотрудникам по безопасности быстро проверить и воспроизвести каждую проблему.

«В течение нескольких часов инженеры принялись внедрять исправления, и мы начали тесное сотрудничество с компанией Anthropic, чтобы применить тот же подход к остальной части кодовой базы браузера. В результате этой работы мы обнаружили 14 критических ошибок и выпустили 22 записи CVE. Все эти ошибки ^[4] исправлены в последней версии браузера», — сообщила ^[1] Mozilla в пресс-релизе.

Помимо 22 уязвимостей, связанных с безопасностью, Anthropic обнаружила ещё 90 ошибок, большинство из которых уже исправлены.

Компания Anthropic также опубликовала технический отчёт о процессе исследования и полученных результатах, с которым можно ознакомиться здесь ^[5].

«Сочетание тщательной разработки с новыми инструментами анализа позволяет постоянно совершенствовать систему. Мы считаем это убедительным доказательством того, что крупномасштабный анализ с использованием искусственного интеллекта — это мощное дополнение к набору инструментов инженеров по безопасности. За десятилетия Firefox прошёл через множество фаззингов и проверок безопасности. Несмотря на это, ИИ-модель смогла выявить ^[1] множество ранее неизвестных ошибок», — написала Mozilla.

В компании сообщили, что Mozilla продолжит инвестировать в инструменты, процессы и сотрудничество, которые обеспечат дальнейшее развитие Firefox и защиту пользователей.