У Stable Diffusion нашли «память»: ИИ запоминает изображения, на которых его учили

Но не все: похоже, в памяти есть только небольшая часть изображений.

Кстати, на сайте читать удобнее

Для обучения нейросети-генератора Stable Diffusion используется огромное количество артов, фотографий и других изображений. Предполагалось, что ИИ не хранит в памяти эти изображения — это защищает авторов Stable Diffusion от претензий создателей оригинальных изображений. Оказалось, это не так.

Группа исследователей из Google, Принстона и других университетов обнаружила у Stable Diffusion «память». Исследователи выяснили, что нейросеть запоминает часть изображений из обучающего датасета и может их воспроизводить.

Правда, из научной работы следует, что ИИ запоминает лишь очень небольшой процент изображений датасета. Во время эксперимента было протестировано 350 тысяч изображений, нейросеть запомнила только 109 из них — это около 0.03%.

Исследователи отмечают, что находить дубликаты не так-то легко: Stable Diffusion не создает побайтовые копии исходных изображений. Но в памяти нейросети в любом случае не может быть много почти полных копий реальных изображений: нейросеть весит 2 гигабайта, обучающий датасет гораздо больше.

Возможно, выводы исследователей помогут группе художников и юристов, подавших в суд на создателей Stable Diffusion. Истцы утверждали, что ИИ содержит в себе множество работ реальных художников; предполагалось, что это не так.

Похожие претензии к Stable Diffusion есть у Getty Images: на сгенерированных изображениях иногда можно увидеть символику, напоминающую водяной знак фотостока.

Разработчики Stable Diffusion пока публично не комментировали результаты исследования.