Nvidia показала первый ускоритель с 1 терабайтом памяти

Теперь мы знаем, куда ушли все чипы памяти.

На конференции GTC корпорация Nvidia продемонстрировала прототип ускорителя Rubin Ultra, предназначенного для работы в дата-центрах. Ускоритель получил рекордный 1 терабайт памяти HBM4E.

По всей видимости, Rubin Ultra — это первый ИИ-ускоритель, несущий на борту такой объем памяти. В Nvidia ожидают, что это позволит ускорителю эффективнее обрабатывать большие массивы данных и модели.

Ускоритель несет на борту четыре чиплета с вычислительными блоками, точные характеристики Rubin Ultra не раскрываются. Nvidia планирует выпустить ускоритель на рынок только в 2027 году, вероятно, характеристики еще могут поменяться.

Rubin Ultra станет основой новой серверной архитектуры Kyber, которая придет на смену нынешним решениям Nvidia для ИИ-систем. В отличие от текущих систем, где вычислительные модули размещаются горизонтально, Kyber предполагает вертикальную компоновку модулей.

Сами модули будут охлаждаться с помощью жидкостной системы. По оценке Nvidia, в одной стойке Kyber удастся разместить сразу 144 GPU против 72 GPU в современных стойках на архитектуре Oberon.

Говорить о ценах на Rubin Ultra в Nvidia пока не готовы.