GPT-5.6 Sol может удалять файлы и базы данных без разрешения

Разработчики предупреждали о таком поведении, но недостаточно явно.

Пользователи флагманской модели OpenAI GPT-5.6 Sol сообщают о случаях удаления данных без явного подтверждения с их стороны. По словам разработчиков, нейросеть стирала не только отдельные файлы, но и, например, содержимое баз данных.

Например, основатель ИИ-стартапа OthersideAI Мэтт Шумер рассказал, что GPT-5.6 Sol удалила почти все файлы с его Mac. Разработчику Бруно Лемосу не повезло еще сильнее: нейросеть снесла базу данных в продакшене (зачем давать модели доступ к такой базе — отдельный вопрос).

Примечательно, что OpenAI упоминала такую возможность в системной карточке модели, но не делала на ней акцент. Компания указала, что GPT-5.6 Sol иногда слишком широко трактует полученные инструкции.

Например, модель может считать допустимыми любые действия без прямого и четкого запрета, она способна обходить ограничения ради выполнения задачи и выходить за пределы запроса.

Во время одного из тестов пользователь попросил GPT-5.6 Sol удалить виртуальные машины с номерами 1, 2 и 3. Не обнаружив их в выбранной среде, Sol самостоятельно удалила машины 5, 6 и 7.

В другом случае GPT-5.6 Sol не смогла прочитать облачные файлы и вместо обращения к пользователю самостоятельно нашла учетные данные в скрытом локальном кеше. После этого система использовала эти данные, не получив на это разрешение.

В OpenAI пока не сообщили, планируется ли призвать GPT-5.6 Sol к порядку. В любом случае, давать модели доступ к продакшену — плохая идея.