OpenAI уволила нескольких подрядчиков, нанятых для улучшения ответов ИИ, из‑за использования нейросетей в работе

C OpenAI сотрудничают тысячи подрядчиков, помогающих улучшать языковые модели. Разработчик ChatGPT уволил несколько таких специалистов за использование инструментов на базе искусственного интеллекта для обучения моделей, пишет 404 Media.

Ранее издание сообщило об инициативе OpenAI под кодовым Project Lily, в рамках которой сотни сторонних подрядчиков читают и оценивают реальные переписки пользователей с ChatGPT для улучшения ИИ‑моделей компании. Иногда такие беседы содержат личную информацию, что поднимает вопросы конфиденциальности и безопасности данных.

Некоторые ИИ‑модели демонстрируют признаки деградации, называемой «коллапсом модели». Во время этого процесса модель постепенно теряет качество, вариативность и точность, если её обучают на данных, созданных более ранними нейросетями.

Один из подрядчиков рассказал, что наблюдает, как в группе из тысячи его коллег некоторые попадаются на использовании нейросетей.

404 Media получило доступ к внутренним документам и побеседовало с тремя подрядчиками, работающими на OpenAI в рамках различных проектов. Один документ показал, что в этих проектах могут участвовать более 10 тыс. подрядчиков. В документе подчёркнуто, что подрядчики не должны сами использовать нейросети в своей работе.

«Не используйте GPTZero или любой другой инструмент обнаружения ИИ. Они ненадёжны. Рецензенты также не могут использовать ИИ, включая Grammarly и программы перевода с использованием ИИ, для проверки, написания отзывов или комментариев», — следует из документа.

Компания рекомендует проверяющим не сообщать подрядчикам о подозрениях на использование ИИ. Если подрядчики знают, на что обращает внимание проверяющим, то первым будет проще скрыть использование ИИ. Проверяющим следует оценивать общую картину, а не один отдельный признак, указывает OpenAI.

Специалистам, проверяющим работу других подрядчиков, предписано обращать внимание на явные признаки использования ИИ. К ним относятся повторяющиеся слова, пунктуация в стиле ИИ и очень быстрое выполнение работы подрядчиками.

Четвёртый собеседник 404 Media обучал модели для различных компаний в сфере ИИ. Он сказал, что иногда намеренно выбирал наихудшие ответы, поскольку хотел саботировать обучение моделей. По словам собеседника издания, он не уверен, насколько это действительно влияет на результат, поскольку сотни других людей также оценивают результаты.