OpenAI более-менее научилась распознавать изображения, созданные своим ИИ-генератором

Работы других генераторов пока распознаются очень плохо.

Стартап OpenAI рассказал о создании технологии распознавания изображений, сгенерированных с помощью искусственного интеллекта. Система умеет распознавать изображения, созданные DALL-E 3, собственным генератором OpenAI.

Согласно подсчетам самой OpenAI, детектор распознает сгенерированные DALL-E 3 изображения в 98% случаев, а число ошибочных срабатываний оказалось ниже 0.5%. Будет распознано не только исходное изображение, но и его модификации, но в этом случае точность падает до 82-97%.

Примечательно, что сильнее всего точность распознавания снижает перекрашивание изображения. При этом сжатие с помощью JPEG, например, минимально влияет на работу детектора ИИ-изображений.

В то же время сильно модифицированные изображения детектор все-таки не распознает. В посте OpenAI не приводятся конкретные примеры таких правок.

Детектор испытали и на изображениях, сгенерированных другими нейросетями. С ними технология не справилась: детектор корректно опознавал сгенерированные изображения лишь в 5-10% случаев.

Сейчас OpenAI принимает заявки от желающих поучаствовать в тестировании детектора. Участники тестирования должны подписать соглашение о неразглашении, о том, когда детектор может появиться в открытом доступе, не сообщается.