Несколько недель назад команда из Anthropic поделилась с Mozilla результатами нового метода обнаружения уязвимостей с помощью искусственного интеллекта. Он позволил выявить более десятка ошибок в системе безопасности, которые были исправлены до выхода стабильной версии Firefox 148.
Команда Frontier Red Team из Anthropic связалась с разработчиками Firefox после того, как с помощью Claude выявила уязвимости в движке JavaScript. Важно отметить, что в отчётах об ошибках были указаны тестовые сценарии, которые позволили сотрудникам по безопасности быстро проверить и воспроизвести каждую проблему.
«В течение нескольких часов инженеры принялись внедрять исправления, и мы начали тесное сотрудничество с компанией Anthropic, чтобы применить тот же подход к остальной части кодовой базы браузера. В результате этой работы мы обнаружили 14 критических ошибок и выпустили 22 записи CVE. Все эти ошибки исправлены в последней версии браузера», — сообщила Mozilla в пресс-релизе.
Помимо 22 уязвимостей, связанных с безопасностью, Anthropic обнаружила ещё 90 ошибок, большинство из которых уже исправлены.
Компания Anthropic также опубликовала технический отчёт о процессе исследования и полученных результатах, с которым можно ознакомиться здесь.
«Сочетание тщательной разработки с новыми инструментами анализа позволяет постоянно совершенствовать систему. Мы считаем это убедительным доказательством того, что крупномасштабный анализ с использованием искусственного интеллекта — это мощное дополнение к набору инструментов инженеров по безопасности. За десятилетия Firefox прошёл через множество фаззингов и проверок безопасности. Несмотря на это, ИИ-модель смогла выявить множество ранее неизвестных ошибок», — написала Mozilla.
В компании сообщили, что Mozilla продолжит инвестировать в инструменты, процессы и сотрудничество, которые обеспечат дальнейшее развитие Firefox и защиту пользователей.
Автор: darya_kiwi
