В Facebook создали систему, распознающую дипфейки и их алгоритмы-создатели

Для работы системы достаточно единственного изображения.

Исследователи Facebook и Университета Мичигана рассказали о создании системы, способной отличить реальное изображение от картинки, созданной с помощью нейросетей DeepFake. Для работы алгоритму хватит и одного изображения.

В основе системы лежат уникальные закономерности, обнаруженные в дипфейках, созданных с помощью конкретных моделей искусственного интеллекта. Разработка ученых может выявлять эти закономерности.

Благодаря этому можно определять не только то, было ли изображение обработано нейросетью, но и то, какой именно нейросетью оно обрабатывалось.

Кроме того, система умеет определять на изображении черты, характерные для нейронных сетей в целом. Это поможет, если автор изображения обработал его специально настроенной нейронной сетью.

Кроме того, исследователи могут с высокой долей вероятности определить, использовался ли конкретный компьютер для генерации дипфейк-изображения — при условии, что у них имеется доступ к этому компьютеру.

Ученые полагают, что их разработка может пригодиться для противодействия рассылке роликов или фотографий, отредактированных с помощью нейронных сетей. О практическом применении системы в Facebook или на других платформах речь пока не идет.

Исследования в области нейронных сетей и дипфейков ведутся в Facebook как минимум пару лет. Например, еще в 2019 году корпорация показала систему, мешающую распознаванию на изображениях лиц людей: для этого она немного меняла их черты.