Профессор Кёльнского университета потерял два года работы с использованием ChatGPT

Профессор растениеводства в Кёльнском университете Марсель Бухер рассказал ^[1], что он потерял значительную часть своей работы после изменения настроек в ChatGPT.

Два года назад он оформил ^[2] платную подписку на ChatGPT и обнаружил, что этот инструмент ИИ оказался «чрезвычайно полезным». «Подписавшись на тарифный план OpenAI ChatGPT Plus, я использовал его как помощника каждый день — для написания электронных писем, составления описаний курсов, структурирования заявок на гранты, редактирования публикаций, подготовки лекций, создания экзаменов и анализа ответов студентов, и даже как интерактивный инструмент в рамках моего преподавания», — написал Бухер.

Профессор признал, что ChatGPT, как и все большие языковые модели, может быть неточным, но ему нравилось, как чат-бот запоминает контекст разговоров, а также он ценил «непрерывность и кажущуюся стабильность рабочего пространства». Затем Бухер поэкспериментировал с настройками согласия на обработку данных.

«В августе я временно отключил опцию “согласие на обработку данных”, потому что хотел проверить, сохранится ли у меня доступ ко всем функциям модели, если я не предоставлю OpenAI свои данные. В тот момент все мои чаты были безвозвратно удалены, а папки проекта очищены — два года тщательно структурированной научной работы исчезли. Никакого предупреждения не появилось. Не было возможности отменить действие. Просто пустая страница. К счастью, я сохранил частичные копии некоторых разговоров и материалов, но большая часть моей работы была потеряна навсегда», — пожаловался он.

Сначала Бухер предположил, что сможет восстановить свои данные. Он переустановил приложение, попробовал разные браузеры и поэкспериментировал с другими настройками, но ничего не помогло. Затем он попытался связаться с OpenAI, но столкнулся с агентом ИИ, который не смог ему помочь. В конце концов, профессору удалось связаться с человеком-сотрудником, но и тот не смог решить проблему. 

Интересно, что история Бухера не вызвала особого сочувствия. «Удивительная душещипательная история: “ChatGPT удалил всю работу, которую я не делал”», — написал один пользователь Bluesky.

«Может быть, в следующий раз вы будете делать работу, за которую вам платят, самостоятельно, вместо того, чтобы отдавать её на аутсорсинг этой разрушающей климат и поощряющей самоубийства ^[3] машине плагиата», — написал другой. 

Некоторые даже предположили, что статья в Nature об утере данных не было написана Бухером.

«Это самая глупая чушь, которую я читал за последнее время. Но в его защиту: нет никаких оснований полагать, что человек, опубликовавший это, действительно написал это сам», — отметил пользователь Bluesky. 

Бухер ответил, что его поощряли использовать ИИ в своей работе, и в этом есть доля правды. Крупные учреждения всё чаще призывают своих сотрудников внедрять ИИ, исходя из теории, что это неизбежный шаг.

«Нас всё чаще призывают интегрировать генеративный ИИ в исследования и преподавание. Отдельные лица используют его для написания текстов, планирования и преподавания; университеты экспериментируют с его внедрением в учебные программы. Однако мой случай выявляет фундаментальную слабость: эти инструменты не разрабатывались с учетом академических стандартов надёжности и подотчётности. Если один щелчок может безвозвратно стереть годы работы, то, на мой взгляд и на основе моего опыта ^[4], ChatGPT нельзя считать полностью безопасным для профессионального использования», — указал профессор.

Ранее сообщалось, что OpenAI активно внедряет ^[5] свои инструменты в высшие учебные заведения США. Компания планирует предоставлять студентам доступ к ИИ-помощникам с самого поступления. Предполагается, что ChatGPT будет помогать не только в учёбе, но и при дальнейшем трудоустройстве. Для университетов OpenAI разработала платформу ChatGPT Edu, которая предлагает больше функций, чем бесплатный чат-бот компании, в том числе повышенную защиту конфиденциальности.