Google представила CodeMender, обновлённую систему SAIF и анонсировала VRP за обнаружение уязвимостей в ИИ-продуктах

Google объявила ^[1] о нововведениях в сфере ИИ: компания анонсировала ИИ-агента CodeMender, запустила специальную программу поощрения за обнаружение уязвимостей (Vulnerability Reward Program, VRP) для своих продуктов на основе ИИ, а также обновила свою систему Secure AI Framework (SAIF) до версии 2.0.

Инструмент CodeMender отвечает за автономное устранение уязвимостей в системе безопасности кода. Он был создан на основе опыта ^[2] работы Google с BigSleep и OSS-Fuzz, и компания надеется, что CodeMender поможет людям быстро устранять уязвимости в существующем небезопасном коде. Инструмент использует Gemini для анализа первопричин (root cause analysis) и создания патчей безопасности, которые затем проходят экспертную оценку «агентов-критиков» и передаются специалисту для утверждения.

Специальная программа поощрения за обнаружение уязвимостей для продуктов Google на основе ИИ предлагает ^[3] вознаграждение в размере до $20 тыс. за выявление серьёзных ошибок.

Google обновила свою систему SAIF до версии 2.0, которая теперь включает в себя три новых компонента. Первый — это карта рисков агентов, которая помогает выявлять потенциальные угрозы. Второй — это пакет обновлений безопасности, которые распространяются на все ИИ-сервисы Google. Третий — это передача данных карты рисков в Coalition for Secure AI Risk Map.

Как утверждает ^[4] Google, её цель — использовать искусственный интеллект ^[5], чтобы сделать мир безопаснее, предлагая защиту от злоумышленников и спонсируемых государством хакеров.

Ранее OpenAI и AMD заключили ^[6] партнёрское соглашение, по которому первая компания получает 6 гигаватт мощности графических процессоров, а также возможность приобрести 10% акций AMD при соблюдении определённых условий.