Nvidia сделала собственную память NVHBM для ИИ-ускорителей

Компания обещает падение энергопотребления и рост пропускной способности.

Nvidia разработала собственный вариант памяти HBM для ИИ-ускорителей. Разработка, получившая название NVHBM, рассчитана на интеграцию с платформой NVLink Fusion, позволяющей объединять кастомные чипы с масштабируемой инфраструктурой NVLink и строить крупные вычислительные системы.

Главное архитектурное отличие NVHBM от обычной HBM связано с переносом контроллера памяти. Обычно он размещается на основном кристалле ускорителя, а Nvidia перенесла контроллер в кристалл самого стека HBM. На стороне процессора остается только компактный PHY-интерфейс.

Такая оптимизация позволяет получить до 30% больше места под вычислительные блоки на кристалле процессора. Одновременно упрощается разводка интерпозера, соединяющего несколько кристаллов в современных многокристальных решениях.

По оценке Nvidia, новая память получит до 30% больше пропускной способности на один стек по сравнению с обычной памятью HBM4e. При этом энергопотребление NVHBM на 15% ниже, чем у HBM4e.

Первым партнером Nvidia по интеграции NVHBM станет Annapurna Labs, подразделение Amazon, разрабатывающее собственные серверные процессоры и ИИ-ускорители.