Nvidia показала ИИ-чип Blackwell — он в 2-5 раз быстрее предыдущего поколения

Чип несет на борту 208 миллиардов транзисторов.

Корпорация Nvidia провела презентацию архитектуры Blackwell, предназначенной для работы с ИИ. Чип Blackwell B200 станет преемником чипа Hopper H100, используемого в современных ИИ-ускорителях Nvidia.

По оценке компании, Blackwell гораздо быстрее Hopper. Чип с 208 миллиардами транзисторов выдает 20 петафлопс при работе с числами fp8 и 40 петафлопс при работе с числами fp4 — это в 2-5 раз лучше результатов Hopper.

Чипы Blackwell будут устанавливаться в системы GB200, объединяющие два B200 и один процессор Grace. Согласно подсчетам Nvidia, 2000 чипов Blackwell могут обучить модель с 1.8 триллиона параметров, затратив 4 мегаватта энергии; ранее для этого требовалось 8000 чипов Hopper и 15 мегаватт энергии.

Вместе с новым чипом Nvidia представила сетевой коммутатор, созданный специально для оптимизации распределенных ИИ-вычислений. Коммутатор обеспечивает пропускную способность на уровне 1.8 ТБ/сек.

Помимо обычных ускорителей Nvidia будет предлагать клиентам целые серверные стойки с чипами Blackwell. Например, GB200 NVL72 объединяет 36 процессоров Grace и 72 чипа Blackwell в систему с производительностью в 720 петафлопс.

Самым производительным решением станет, видимо, DGX Superpod, объединяющий восемь стоек и обладающий суммарной производительностью в 11.5 экзафлопс при работе с fp4.

О стоимости решений на базе Blackwell пока нет информации.