OpenAI привлекла сотни сторонних подрядчиков, которые читают и оценивают реальные переписки пользователей с ChatGPT

OpenAI привлекла сотни сторонних подрядчиков, которые читают и оценивают реальные переписки пользователей с ChatGPT для улучшения моделей искусственного интеллекта ^[1] компании. Об инициативе под кодовым названием Project Lily сообщило ^[2] издание 404 Media со ссылкой на внутренние документы и общение с участниками программы.

Иногда разговоры с чат‑ботами содержат конфиденциальную информацию, к которой имеют доступ нанимаемые OpenAI подрядчики. Цель Project Lily заключается в улучшении ответов, которые ChatGPT предоставляет своим пользователям. 

Подрядчики оценивают и критикуют сгенерированные чат‑ботом результаты. Также они обучают чат‑бот не очеловечивать себя и быть менее склонным к «подхалимству ^[3]» — это одна ключевых проблем OpenAI. Чрезвычайно угодливая модель GPT-4o отчасти стала причиной нескольких самоубийств ^[4].

Использование подрядчиков для подобных целей представляет собой серьёзный риск для конфиденциальности пользователей ChatGPT, поскольку люди часто применяют чат‑бот в качестве терапевта, профессионального помощника или виртуального друга.

Подрядчики не видят имена пользователей ChatGPT. В свою очередь OpenAI заявляет, что старается удалять личную информацию до того, как промпты попадут к проверяющим. Однако компания признаёт, что конфиденциальные данные всё же могут проходить через этот фильтр.

Сведения о Project Lily развеивают ошибочное представление о том, что языковые модели совершенствуются только благодаря массовому сбору OpenAI данных из интернета, таланту её высокооплачиваемых инженеров и специалистов по ИИ, а также возможностям новых поколений моделей, отмечает 404 Media. Важную роль играют внешние подрядчики, которым платят за чтение и проверку ответов ChatGPT на реальные пользовательские запросы.

Anthropic подтвердила 404 Media, что также использует людей для проверки и улучшения своих моделей. К аналогичным услугам прибегает и Google.

Подрядчики OpenAI оценивают выдачу ChatGPT по шкале от 1 до 7. За наём этих специалистов отвечает компания Crossing Hurdles, а оплату производит Mercor. Один из подрядчиков рассказал, что его работа приносит более $50 в час.

Обучение ^[5] моделей включено по умолчанию в потребительских тарифах, в том числе бесплатный, Plus и Pro.