ChatGPT получит защищенный режим для противостояния утечек данных

В режиме обещают улучшить защиту от промпт-инъекций.

OpenAI снабдит ChatGPT защищенным режимом Lockdown Mode. Он предназначен для пользователей и организаций, работающих с чувствительными данными и стремящихся уменьшить риски, связанные с промпт-инъекциями в документах, обрабатываемых ИИ.

После включения режима ChatGPT ограничивает доступ к ряду функций. В частности, отключается возможность ходить по сети: модель сможет работать только с кэшированным контентом.

Также блокируется получение и отображение изображений из интернета, хотя генерация изображений при этом останется доступной. Кроме того, Lockdown Mode отключает агентный режим и режим глубокого исследования.

Все эти функции предполагают более активное взаимодействие с внешними источниками информации и инструментами, поэтому их ограничение должно снизить вероятность того, что вредоносные промпты повлияют на работу чат-бота или приведут к утечке информации.

В то же время OpenAI подчеркивает, что Lockdown Mode нельзя считать абсолютной защитой от инъекций. Даже при включенном режиме ChatGPT все еще может столкнуться с промпт-инъекциями: например, в кэшированном веб-контенте или в загруженном файле.