OpenAI создала очень точный детектор текстов ChatGPT, но не решила, надо ли его выпускать

При желании детектор все-таки можно обойти.

Разработчикам из OpenAI удалось создать детектор, определяющий тексты, сгенерированные чат-ботом ChatGPT. Для этого компания особым образом модифицирует генерацию текстов — в результате в них появляются определенные шаблоны, которые можно обнаружить.

По оценке OpenAI, детектор определяет сгенерированный текст с точностью в 99.9%. Есть нюанс: детектор можно обойти, если перефразировать текст (например, с помощью другой нейросети) или прогнать через переводчик.

В компании утверждает, что внедрение в текст «водяных знаков» не ухудшает качество генерации ChatGPT. Однако в OpenAI все еще не решили, нужно ли выпускать детектор в открытый доступ.

В OpenAI опасаются, что появление детектора может «стигматизировать» использование искусственного интеллекта в некоторых ситуациях. В качестве примера компания приводит написание текстов для людей, не являющихся носителями английского языка.

Предполагается, что пользователи ChatGPT будут недовольны появлением такого детектора. Как пишет The Wall Street Journal, согласно опросу, проведенному OpenAI, около 30% пользователей ChatGPT намерены реже использовать нейросеть, если такой детектор появится.