«Не спешите целиком и полностью доверять новому агенту ChatGPT», — предупреждает Альтман

Генеральный директор OpenAI Сэм Альтман предупреждает пользователей, чтобы они не слишком полагались на нового агента ChatGPT, особенно когда речь идёт о задачах, связанных с конфиденциальными или личными данными.

Агент ChatGPT ^[1] — это первая система OpenAI, созданная для автономного выполнения многоэтапных задач. По словам Альтмана ^[2], агент может разбивать запросы на более мелкие этапы, использовать внешние инструменты и выполнять действия самостоятельно, выходя за рамки более ранних продуктов, таких как Deep Research ^[3] и Operator ^[4].

Но Альтман говорит ^[2], что пользователям не стоит думать, что эта технология безопасна во всём. Даже несмотря на «множество мер предосторожности и предупреждений», по его словам, всё равно остаются риски, которые невозможно предсказать. Он особенно не рекомендует использовать этого агента для важных задач или чего-то, что связанно с большим объёмом личной информации.

Агенты искусственного интеллекта по-прежнему уязвимы

Альтман обращает внимание ^[5] на риск, связанный с предоставлением агенту ИИ широких полномочий, таких как доступ к учётной записи электронной почты, без контроля. Например, если вы поручите агенту обрабатывать ваши электронные письма и выполнять все необходимые действия, злоумышленники могут обманом заставить его раскрыть конфиденциальные данные или сделать что-то, чего он делать не должен.

Исследователи неоднократно доказывали, что агентами ИИ можно манипулировать с помощью относительно простых подсказок ^[6], что иногда приводит к раскрытию личной информации ^[7] или нежелательным действиям ^[8].

«Мы не можем предсказать все последствия, но злоумышленники могут попытаться “обмануть” ИИ-агента, вынудив его раскрыть конфиденциальные данные или совершить нежелательные действия. Чтобы минимизировать риски для безопасности и конфиденциальности, мы рекомендуем предоставлять агентам минимальный доступ, который необходим для выполнения конкретной задачи», — советует Альтман.

OpenAI будет опираться на обратную связь потребителей, чтобы усовершенствовать свои меры безопасности. Но если что-то пойдёт не так или конфиденциальные данные будут раскрыты, ответственность ляжет на пользователя, а не на OpenAI. Любой, кто использует агента ChatGPT, должен знать о рисках.

Альтман отстаивает этот подход, говоря: «Мы считаем, что важно начать учиться на практике и что людям следует внедрять эти инструменты осторожно и постепенно, по мере того как мы будем лучше оценивать и снижать потенциальные риски. Как и в случае с другими новыми возможностями, общество, технологии и стратегия снижения рисков должны развиваться параллельно».

Возможно, он прав в том, что необходимо учиться на практике, но, учитывая, что у ChatGPT сотни миллионов пользователей, это также означает, что почти наверняка будут и реальные жертвы.

Делегируйте часть рутинных задач вместе с BotHub ^[9]! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[10] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

Перевод, источник новости здесь ^[11].