Режим блокировки от OpenAI защитит конфиденциальные данные от атак с внедрением промптов

OpenAI анонсировала ^[1] новую функцию, которая обеспечит дополнительную защиту от атак с внедрением вредоносных подсказок на веб-страницах и в других источниках контента.

Режим блокировки отключит просмотр веб-страниц в реальном времени, обеспечив доступ только к кэшированному контенту, а также получение и отображение изображений из сети, углублённый поиск и режим агента.

Компания заявляет, что даже при включённом режиме блокировки ChatGPT всё ещё может быть уязвим для внедрения подсказок — которые, например, могут «появляться в кэшированном веб-контенте или в загруженном файле и всё ещё могут влиять на поведение ^[2] или точность ответа».

Но цель состоит в том, чтобы снизить вероятность утечки конфиденциальных данных в процессе.

«Режим блокировки предназначен не для всех. Он разработан для людей и организаций, которые работают с конфиденциальными данными и хотят более строгой защиты от рисков утечки данных, связанных с внедрением подсказок», — заявляет OpenAI. 

Компания заявляет, что в настоящее время внедряет режим блокировки для самообслуживаемых бизнес-аккаунтов ChatGPT, а также для соответствующих личных аккаунтов.

Ранее OpenAI выпустила ^[3] новый набор опций для Codex, чтобы расширить применение инструмента в рабочей среде. Компания представила набор из шести плагинов, ориентированных на конкретные задачи: анализ данных, креативное производство, продажи, дизайн продуктов, инвестиции в акции и инвестиционный банкинг. Доступные из приложения Codex, каждый из новых инструментов включает в себя интеграции, инструкции и контекст, позволяющие ИИ приблизительно соответствовать конкретной задаче.