GPU с 80 миллиардами транзисторов и суперчипы: главные анонсы Nvidia с GTC

Ничего интересного для игроков на презентации не ожидалось.

Вечером 22 марта корпорация Nvidia провела презентацию в рамках конференции GTC. Шоу было посвящено архитектуре нового поколения Hopper, предназначенной для высокопроизводительных вычислительных систем.

Во время презентации руководитель Nvidia Хуан Жэньсюнь поговорил и о самой архитектуре, и о линейке устройств на ее базе. Вот самые интересные анонсы из выступления топ-менеджера Nvidia.

Hopper H100

GPU на базе новой архитектуры. Он построена не по 5-нм техпроцессу, как предполагалось ранее, а по 4-нм техпроцессу. H100 стал первым 4-нм чипом в истории Nvidia.

Чип состоит из 80 миллиардов транзисторов, Nvidia называет его самым быстрым решением для работы с ИИ на планете. Производительность Hopper H100 при работе с ИИ может достигать 4000 терафлопс.

Hopper H100 поддерживает PCI Express 5.0 и интерфейс NVLink четвертого поколения, разработанный самой Nvidia. По умолчанию чип оснащается 80 гигабайтами памяти HBM3 с пропускной способностью 3 ТБ/сек.

На самом чипе распаяно 50 мегабайт кэша L2. Hopper H100 оснащен 132 потоковыми мультипроцессорами и 16896 CUDA-ядрами. В зависимости от форм-фактора характеристики могут немного меняться.

Тактовые частоты чипа Nvidia не раскрыла. Энергопотребление чипа может достигать 700 Вт. Устройства на базе H100 появятся в продаже до конца 2022 года.

DGX H100

Вычислительный кластер, объединяющий восемь чипов H100 — такой суперкомпьютер в миниатюре. Обеспечивает 32 петафлопса производительности при работе с ИИ, оснащен 640 гигабайтами памяти HBM3.

Кластеры могут объединяться в суперкомпьютерные платформы DGX POD. Одна POD выдает 1 экзафлопс производительности при работе с ИИ, у нее 20 терабайт памяти. Из 18 DGX POD можно собрать суперкомпьютер EOS.

В Nvidia подчеркивают, что все перечисленные решения легко масштабируются по мере роста нагрузки.

Суперчипы Grace и Grace Hopper

Суперчип Grace это, по сути, два процессора Grace, распаянных на одной плате. Grace — собственная разработка Nvidia на базе Arm, ориентированная на высокопроизводительные вычисления.

У суперчипа на борту 144 вычислительных ядра (по 72 на процессор) и 396 мегабайт кэша. Grace поддерживает память LPDRR5X с пропускной способностью до 1 ТБ/сек, энергопотребление суперчипа — 500 Вт.

Суперчип Grace Hopper тоже представляет собой два процессора, но вместо второго Grace распаян графический чип Hopper. Эта платформа предназначена для работы с искусственным интеллектом и высокопроизводительными вычислениями.

Grace Hopper может оснащаться до 600 гигабайт памяти. Предполагается, что Hopper получит стандартные 80 гигабайт памяти, а остальные 520 гигабайт памяти придутся на долю Grace.

В Nvidia рассчитывают, что Grace Hopper появится не раньше третьего квартала 2023 года, а Grace выйдет в начале 2023 года. Цены на устройства компания пока не объявила.