Исследование: люди распознают дипфейки лучше, чем думают

Осталось придумать, как отфильтровать сигналы сознания.

Современные дипфейки могут быть очень правдоподобными: если как следует подготовиться и хорошо обучить нейросеть, отличить сгенерированное изображение от реального может быть не так-то просто. Если верить исследователям ряда австралийских университетов, на самом деле люди распознают дипфейки лучше, чем думают.

Проанализировав то, как люди распознают дипфейки, исследователи пришли к выводу, что человеческий мозг часто даже при беглом взгляде может отличить дипфейк от реального изображения. Но сознательно гораздо сложнее принять решение, где настоящая картинка, а где нет.

Во время эксперимента ученые анализировали мозговую активность человека, пытающегося отличить дипфейк от реального изображения. Выяснилось, что по показателям ЭЭГ можно понять, как достоверность картинки оценивает мозг, а не сознание человека.

Другой интересный момент: если явно нереалистичные лица люди фильтруют довольно уверенно, то лица, созданные продвинутыми нейросетями разработок Nvidia семейства GAN, распознаются с куда большим трудом. Но у мозга с этим нет особых проблем: мешает сознание.

Ученые проводят параллель с прозопагнозией, расстройством восприятия, мешающим распознавать лица других людей. Хотя осознанно люди, страдающие прозопагнозией, не могут распознать лицо, при виде знакомого человека их мозг демонстрирует более сильные реакции.

Исследователи полагают, что полученные данные могут пригодиться в области кибербезопасности: чтобы распознавать изображения лиц, сгенерированные искусственно.