Все новости
Это интересно
Сейчас читают
Технологии
Аватар Evernews Evernews

Stable Diffusion запустили на системе с 512 мегабайтами памяти

0
0
Поделиться
Телеграфировать

Генерация изображения занимает массу времени, но она хотя бы работает.

Stable Diffusion запустили на системе с 512 мегабайтами памяти

Разработчик Вито Плантамура сумел запустить нейросеть-генератор изображений Stable Diffusion на системе с 512 мегабайтами оперативной памяти. Нейросеть работала не на обычном PC, а на Raspberry Pi Zero 2 W.

Хотя у компактного вычислительного устройства есть полгигабайта памяти, Stable Diffusion во время работы потребляла только 260 мегабайт памяти. Чтобы добиться этого, Плантамуре пришлось серьезно оптимизировать нейросеть.

Обычно Stable Diffusion требуется порядка 8 гигабайт памяти. Для оптимизации использования ОЗУ Вито создал библиотеку OnnxStream, меняющую принцип работы модели с памятью.

У OnnxStream есть две ключевых особенности: библиотека не выгружает промежуточные результаты на диск и не использует файл подкачки. У снижения нагрузки на память есть цена: снижается скорость генерации.

По оценке Вито, OnnxStream позволяет снизить потребление памяти в 55 раз, при этом время генерации увеличивается максимум вдвое. На Raspberry Pi Zero 2 W генерация изображения, показанного ниже, заняла три часа с точностью W8A8.

Для сравнения: вот то же изображение, сгенерированное с точностью W8A32 на более быстрой системе.

Поэкспериментировать с OnnxStream можно самостоятельно, проект предлагается использовать для генерации изображений на любых системах с достаточно небольшим объемом памяти. OnnxStream выложена в открытый доступ на GitHub.

Читать далее
Как вам S.T.A.L.K.E.R. 2?
Отличная игра
4243 голоса, 32.6%
Хорошо, но могло быть лучше
1796 голосов, 13.8%
Самая обычная игра
846 голосов, 6.5%
Ужасно, пожалел о покупке/скачивании
1149 голосов, 8.8%
Не играл и не собираюсь
4970 голосов, 38.2%
Теги: Технологии
Аватар Evernews
Evernews
8072 подписчика