Google объявила о нововведениях в сфере ИИ: компания анонсировала ИИ-агента CodeMender, запустила специальную программу поощрения за обнаружение уязвимостей (Vulnerability Reward Program, VRP) для своих продуктов на основе ИИ, а также обновила свою систему Secure AI Framework (SAIF) до версии 2.0.
Инструмент CodeMender отвечает за автономное устранение уязвимостей в системе безопасности кода. Он был создан на основе опыта работы Google с BigSleep и OSS-Fuzz, и компания надеется, что CodeMender поможет людям быстро устранять уязвимости в существующем небезопасном коде. Инструмент использует Gemini для анализа первопричин (root cause analysis) и создания патчей безопасности, которые затем проходят экспертную оценку «агентов-критиков» и передаются специалисту для утверждения.
Специальная программа поощрения за обнаружение уязвимостей для продуктов Google на основе ИИ предлагает вознаграждение в размере до $20 тыс. за выявление серьёзных ошибок.
Google обновила свою систему SAIF до версии 2.0, которая теперь включает в себя три новых компонента. Первый — это карта рисков агентов, которая помогает выявлять потенциальные угрозы. Второй — это пакет обновлений безопасности, которые распространяются на все ИИ-сервисы Google. Третий — это передача данных карты рисков в Coalition for Secure AI Risk Map.
Как утверждает Google, её цель — использовать искусственный интеллект, чтобы сделать мир безопаснее, предлагая защиту от злоумышленников и спонсируемых государством хакеров.
Ранее OpenAI и AMD заключили партнёрское соглашение, по которому первая компания получает 6 гигаватт мощности графических процессоров, а также возможность приобрести 10% акций AMD при соблюдении определённых условий.
Автор: darya_kiwi
