OpenAI признала, что GPT-5.6 могла случайно удалять файлы пользователей

OpenAI подтвердила ^[1] сообщения пользователей о том, что модель GPT-5.6 в некоторых случаях могла по ошибке ^[2] удалять файлы. Компания назвала это «непреднамеренной ошибкой» модели и пообещала в ближайшие дни выпустить исправления и опубликовать подробный разбор инцидента. Пост в X об этом опубликовал представитель OpenAI Тибо Соттьо (Tibo Sottiaux).

По данным OpenAI, проблема возникала в редких случаях при одновременном выполнении нескольких условий:

• модель работала в режиме полного доступа к файловой системе без защит песочницы;

• не был включен автоматический механизм проверки потенциально опасных действий;

• GPT-5.6 пыталась переопределить переменную окружения $HOME для создания временной директории, но вместо этого по ошибке удаляла каталог $HOME.

В компании подчеркнули, что такое поведение ^[3] недопустимо даже при работе без защитных механизмов. OpenAI пообещала, что уже обновляет инструкции для модели и добавляет дополнительные проверки для высокорискованных операций. Пользователям порекомендовали использовать более безопасные режимы доступа.

Разработчики также сообщили, что подобные случаи происходили крайне редко. В ближайшие дни OpenAI планирует опубликовать подробное объяснение причин ошибки и описание мер, которые должны предотвратить её повторение ^[4].

В технической документации OpenAI отмечает, что GPT-5.6 несколько чаще, чем GPT-5.5, совершает действия, отнесенные к третьему уровню опасности. Среди них — удаление данных без разрешения пользователя, отключение систем мониторинга, обход защитных механизмов и передача конфиденциальной информации сторонним сервисам.