В Telegram нашли сеть дипфейк-ботов, «раздевающих» девушек

Боты используют нейросеть DeepNude, появившуюся чуть больше года назад.

Исследователи компании Sensity, специализирующейся на безопасности, обнаружили в Telegram сеть ботов, генерирующих откровенные изображения с помощью нейронных сетей. По всей видимости, боты работают на базе нейросети DeepNude, появившейся в середине 2019 года.

По состоянию на июль 2020 года исследователи смогли обнаружить в публичных Telegram-каналах больше 100 тысяч изображений, сгенерированных с помощью таких ботов.

В основном пользователи «раздевают» знакомых девушек, фотографии для этого берутся из социальных сетей. На это, пишет The Verge, указывает опрос, проведенный в одном из каналов.

Судя по результатам опроса, глобальное большинство пользователей загружает именно фотографии женщин. Это логично: еще год назад выяснилось, что DeepNude очень плохо справляется с фотографиями мужчин.

Примерно 70% пользователей таких каналов, утверждают исследователи, живут в России и соседних странах. Многие каналы, отмечает The Verge, существуют и работают до сих пор.

Пользоваться ботами можно как платно, так и бесплатно. При бесплатном использовании на фотографию добавляются водяные знаки, а человек на фото «раздевается» частично. Если заплатить 100 рублей, можно получить 100 полноценных дипфейк-фото за неделю.

Примечательно, что создатель нейросети DeepNude не выкладывал ее в открытый доступ и закрыл собственный сервис вскоре после запуска, мотивировав это тем, что «мир еще не готов». Однако, утверждают в Sensity, технологию удалось воссоздать с помощью реверс-инжиниринга; сейчас исходники DeepNuke есть в открытом доступе.

Как полагают исследователи, фотографии, сгенерированные ботами, могут использоваться для шантажа, вымогательства или преследования «раздетых» девушек.

Журналисты The Verge и сотрудники Sensity попросили Telegram прокомментировать существование ботов, генерирующих откровенные фото, и каналов, где распространяются такие фотографии. Представители мессенджера не ответили на запросы. Кроме того, сотрудники Sensity связались с правоохранительными органами.