OpenAI реорганизует исследовательскую группу, стоящую за разработкой ChatGPT

OpenAI проводит реорганизацию своей исследовательской команды Model Behavior, которая стояла за разработкой ChatGPT. Группа исследователей определяет, как модели искусственного интеллекта компании взаимодействует с людьми. О реорганизации сообщило издание TechCrunch со ссылкой на служебную записку для персонала от главного научного сотрудника OpenAI Марка Чена.

В небольшую команду Model Behavior входят примерно 14 исследователей. Группу присоединят к команде Post Training — более крупному подразделению, отвечающему за улучшение ИИ-моделей компании после их предварительного обучения.

Model Behavior передадут в подчинение руководителю отдела постобучения OpenAI Максу Шварцеру. Представитель компании подтвердил эти изменения TechCrunch. 

Основательница и руководитель Model Behavior Джоанн Джанг готовится начать новый проект в компании. Она поделилась, что формирует исследовательскую группу под названием OAI Labs, которая займётся «разработкой и прототипированием новых интерфейсов для взаимодействия людей и ИИ».

Команда Model Behavior стала одной из ключевых исследовательских групп OpenAI, отвечающей за формирование индивидуальности ИИ-моделей и снижение уровня «подхалимства», которое возникает, когда модель соглашается с некорректными утверждениями пользователей. Также группа работала над устранением политической предвзятости в ответах моделей и помогла OpenAI определить свою позицию по вопросу осознанности ИИ.

В служебной записке Чен отметил, что сейчас самое время приблизить работу Model Behavior к разработке базовой модели. Тем самым OpenAI даёт понять, что «личность» её ИИ теперь считается критически важным фактором развития технологии.

В последние месяцы пользователи раскритиковали изменения в характеристиках личности GPT-5, которую оценили как более холодную. Это побудило OpenAI восстановить доступ к некоторым предыдущим моделям, таким как GPT-4o, и выпустить обновления для GPT-5, чтобы сделать её более дружелюбной, но не увеличивая уровень «подхалимства».

Команда Model Behavior работала над всеми моделями OpenAI начиная с GPT-4, включая GPT-4o, GPT-4.5 и GPT-5. До создания подразделения Джанг работала над Dall-E 2.