OpenAI закрыл детектор текстов, созданных ИИ — он очень плохо работал

Точность работы системы оценивалась на уровне 26%.

Стартап OpenAI закрыл детектор AI Text Classifier, запущенный в конце января 2023 года. Детектор должен был обнаруживать тексты, созданные с помощью разнообразных нейронных сетей.

Работу AI Text Classifier решено прекратить из-за крайне низкой эффективности работы детектора. На момент закрытия точность обнаружения сгенерированных текстов с помощью AI Text Classifier была на уровне 26%.

Кроме того, приблизительно в 9% случаев AI Text Classifier демонстрировал ложные срабатывания, определяя как сгенерированный текст, на самом деле написанный человеком.

Примечательно, что в OpenAI не стали широко объявлять о прекращении работы детектора. Компания просто обновила январский пост с анонсом детектора, в результате СМИ заметили закрытие AI Text Classifier только неделю спустя.

Компания намерена продолжить поиски методов эффективно обнаруживать тексты, сгенерированные с помощью нейросетей. Также в OpenAI работаю над детекторами сгенерированного визуального или аудио контента.

Представители стартапа не рассказали, когда могут быть запущены более совершенные детекторы сгенерированного контента.