Генеральный директор OpenAI Сэм Альтман предупреждает пользователей, чтобы они не слишком полагались на нового агента ChatGPT, особенно когда речь идёт о задачах, связанных с конфиденциальными или личными данными.
Агент ChatGPT — это первая система OpenAI, созданная для автономного выполнения многоэтапных задач. По словам Альтмана, агент может разбивать запросы на более мелкие этапы, использовать внешние инструменты и выполнять действия самостоятельно, выходя за рамки более ранних продуктов, таких как Deep Research и Operator.
Но Альтман говорит, что пользователям не стоит думать, что эта технология безопасна во всём. Даже несмотря на «множество мер предосторожности и предупреждений», по его словам, всё равно остаются риски, которые невозможно предсказать. Он особенно не рекомендует использовать этого агента для важных задач или чего-то, что связанно с большим объёмом личной информации.
Агенты искусственного интеллекта по-прежнему уязвимы
Альтман обращает внимание на риск, связанный с предоставлением агенту ИИ широких полномочий, таких как доступ к учётной записи электронной почты, без контроля. Например, если вы поручите агенту обрабатывать ваши электронные письма и выполнять все необходимые действия, злоумышленники могут обманом заставить его раскрыть конфиденциальные данные или сделать что-то, чего он делать не должен.
Исследователи неоднократно доказывали, что агентами ИИ можно манипулировать с помощью относительно простых подсказок, что иногда приводит к раскрытию личной информации или нежелательным действиям.
«Мы не можем предсказать все последствия, но злоумышленники могут попытаться “обмануть” ИИ-агента, вынудив его раскрыть конфиденциальные данные или совершить нежелательные действия. Чтобы минимизировать риски для безопасности и конфиденциальности, мы рекомендуем предоставлять агентам минимальный доступ, который необходим для выполнения конкретной задачи», — советует Альтман.
OpenAI будет опираться на обратную связь потребителей, чтобы усовершенствовать свои меры безопасности. Но если что-то пойдёт не так или конфиденциальные данные будут раскрыты, ответственность ляжет на пользователя, а не на OpenAI. Любой, кто использует агента ChatGPT, должен знать о рисках.
Альтман отстаивает этот подход, говоря: «Мы считаем, что важно начать учиться на практике и что людям следует внедрять эти инструменты осторожно и постепенно, по мере того как мы будем лучше оценивать и снижать потенциальные риски. Как и в случае с другими новыми возможностями, общество, технологии и стратегия снижения рисков должны развиваться параллельно».
Возможно, он прав в том, что необходимо учиться на практике, но, учитывая, что у ChatGPT сотни миллионов пользователей, это также означает, что почти наверняка будут и реальные жертвы.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Перевод, источник новости здесь.
Автор: mefdayy
