Китайский ИИ попросили нарисовать демократию в стране. Ничего не вышло

Рисовать флаг Китая нейросеть тоже отказалась.

Кстати, на сайте читать удобнее

Китайский интернет-гигант Baidu выложил в открытый доступ нейросеть ERNIE-ViLG, рисующую изображения по описанию. Исследователи выяснили, что нейросеть работает довольно своеобразно.

С одной стороны, пишет MIT Technology Review, нейросеть Baidu лучше других ИИ справляется с изображением китайских знаменитостей или достопримечательностей. С другой стороны, в нее вшит механизм цензуры.

Например, если задать ERNIE-ViLG запрос «демократия в Китае», нейросеть сообщит, что запрос «не соответствует правилам» и его нужно скорректировать. При этом нарисовать просто «демократию» нейронная сеть не против.

Судя по экспериментам, проведенным исследователями, ИИ отказывается изображать демократию еще в нескольких регионах: например, на Ближнем Востоке. Рисовать британское правительство нейронная сеть тоже не стала.

Кроме того, ERNIE-ViLG блокирует запросы, в которых упоминается китайский флаг, революция, имя основателя Baidu и фраза «лазать по стенам». Как отмечает издание, это метафора, с помощью которой в Китае обозначают использование VPN.

MIT Technology Review не удалось выяснить, как принималось решение о цензуре некоторых запросов к ERNIE-ViLG. Возможно, разработчики ИИ сыграли на опережение: в начале 2022 года власти Китая предложили запретить ИИ создавать контент, «угрожающий национальной безопасности и социальной стабильности».