Nvidia предлагает решения для обеспечения безопасности и контроля AI-агентов на предприятиях

Компания Nvidia представляет три новых микросервиса NIM, которые являются частью более крупных приложений и помогают предприятиям повысить уровень контроля и безопасности своих агентов искусственного интеллекта ^[1].

Один из этих новых сервисов нацелен на защиту контента и не допускает создания вредоносных или предвзятых результатов со стороны вредоносных или предвзятых агентов искусственного интеллекта. Другой сервис помогает поддерживать беседу только на разрешённые темы, а третий – предотвращает попытки AI-агентов обойти ограничения программного обеспечения.

Эти три новых микросервиса NIM являются частью Nvidia NeMo Guardrails ^[2], существующей коллекции программных инструментов и микросервисов Nvidia с открытым исходным кодом, которая помогает компаниям улучшать свои приложения на основе AI.

«Применяя несколько облегчённых специализированных моделей в качестве защитных механизмов, разработчики могут устранять пробелы, которые могут возникать при использовании только общих глобальных политик и средств защиты, поскольку универсальный подход не обеспечивает надлежащую безопасность и контроль сложных рабочих процессов с использованием AI», — говорится в пресс-релизе ^[3].

Похоже, что компании, занимающиеся искусственным интеллектом, начинают понимать, что внедрить технологию AI-агентов на предприятиях будет не так просто, как они изначально думали. 

Хотя такие люди, как генеральный директор Salesforce Марк Бениофф, недавно предсказали ^[4], что в ближайшие 12 месяцев только на Salesforce будет работать более миллиарда агентов, но реальность, вероятно, будет немного отличаться.

Недавнее исследование, проведённое компанией Deloitte, предсказало ^[5], что около 25% предприятий либо уже используют AI-агентов, либо планируют начать их использовать в 2025 году. 

В отчете также предполагается, что к 2027 году примерно половина компаний будет применять интеллектуальных агентов. Это свидетельствует о том, что, хотя компании явно заинтересованы в использовании AI-агентов, они не спешат внедрять технологии искусственного интеллекта так быстро, как происходят инновации в этой области.

Nvidia, вероятно, рассчитывает, что такие меры позволят сделать внедрение агентов на основе искусственного интеллекта более надёжным и менее рискованным. Однако только время покажет, насколько это предположение соответствует действительности.

Источник ^[6]