OpenAI запустила не очень точный детектор текстов, сгенерированных ИИ

Он должен срабатывать и на собственную технологию компании.

Компания OpenAI, специализирующаяся на исследованиях в области ИИ, объявила о запуске приложения, способного обнаруживать текст, созданный с помощью ИИ. Детектор реагирует и на тексты ChatGPT, собственного генератора OpenAI.

В основе детектора OpenAI AI Text Classifier лежит примерно та же технология, что используется в ChatGPT. Но нейросеть, обученная на большом количестве текстов, не пытается генерировать текст, а старается предсказать вероятность того, что предложенный ей текст сгенерирован искусственно.

Помимо обычных текстов детектор OpenAI обучался на выдачах 34 систем генерации текстов, среди которых была и ChatGPT.

Пока, признают в компании, детектор работает не очень хорошо: он распознает сгенерированный ИИ текст в 26% случаев. В OpenAI уверяют, что в сочетании с другими методами анализа их приложение все-таки эффективно.

Судя по экспериментам, проведенным TechCrunch, вероятность правильного распознавания искусственно сгенерированного текста и в самом деле невелика. Например, детектор спасовал перед большим текстом, созданным ChatGPT, но нашел признаки генерации в тексте, посвященном самой ChatGPT.