ChatGPT получит защищенный режим для противостояния утечек данных
В режиме обещают улучшить защиту от промпт-инъекций.
OpenAI снабдит ChatGPT защищенным режимом Lockdown Mode. Он предназначен для пользователей и организаций, работающих с чувствительными данными и стремящихся уменьшить риски, связанные с промпт-инъекциями в документах, обрабатываемых ИИ.
После включения режима ChatGPT ограничивает доступ к ряду функций. В частности, отключается возможность ходить по сети: модель сможет работать только с кэшированным контентом.
Также блокируется получение и отображение изображений из интернета, хотя генерация изображений при этом останется доступной. Кроме того, Lockdown Mode отключает агентный режим и режим глубокого исследования.
Все эти функции предполагают более активное взаимодействие с внешними источниками информации и инструментами, поэтому их ограничение должно снизить вероятность того, что вредоносные промпты повлияют на работу чат-бота или приведут к утечке информации.
В то же время OpenAI подчеркивает, что Lockdown Mode нельзя считать абсолютной защитой от инъекций. Даже при включенном режиме ChatGPT все еще может столкнуться с промпт-инъекциями: например, в кэшированном веб-контенте или в загруженном файле.
- СМИ: OpenAI и Anthropic могут резко снизить цены
- OpenAI подала заявку на выход на биржу
- Взлом замков в Gothic 1 Remake: как вскрывать сундуки и двери
- Пропавший стражник в Gothic 1 Remake: где найти Нека
- OpenAI разрешит властям США проверять свои модели до релиза
- ChatGPT станет лучше запоминать пользователей, а память появится на бесплатных аккаунтах

