Из 8 ГБ в 80 ГБ: майнинг-ускоритель Nvidia CMP 170HX превратили в ИИ-ускоритель быстрее A100
Очень удачно, что в таких системах память распаяна вместе с чипом.
Исследователь kate-land нашел способ разблокировки майнинг-ускорителя Nvidia CMP 170HX. Формально ускоритель несет на борту 8 гигабайт памяти, реально он сделан на базе ИИ-ускорителя, оснащенного 80 гигабайтами памяти.
Инженеры Nvidia заблокировали доступ к большей части памяти, однако kate-land обнаружил, что с помощью техники voltage glitching ограничение можно снять. Для этого специальный микроконтроллер создает кратковременные скачки напряжения во время запуска GPU и обходит аппаратную защиту.
Лишенный защиты чип можно разблокировать, открыв ему доступ к отключенным разделам памяти и вычислительным блокам (их число растет с 70 до 120-126). В ходе тестов провернуть этот трюк удалось с 9 из 10 ускорителей.
В бенчмарке OpenCL разлоченный ускоритель выдал 85.86 терафлопс против 72.49 терафлопс у серийного ускорителя Nvidia A100. При этом CMP 170HX гораздо дешевле своего ИИ-собрата.
Трюк с разблокировкой возможен благодаря тому, что CMP 170HX использует чипы, не прошедшие контроль качества для полноценных ускорителей A100. Память размещена прямо на чипах, а не распаяна на платах, как это сделано у десктопных видеокарт, так что с некачественных чипов ее не снимали.

