Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.

NVIDIA HGX B200

Восемь Blackwell по 180 ГБ HBM3e и NVLink 1,8 ТБ/с на GPU. Основная платформа для новых кластеров обучения и инференса.

Наличие: Под заказ
Срок поставки: 6–8 недель
Цена: Цена по запросу

Ускорители: 8 × B200 SXM, 180 ГБ HBM3e каждый
FP4: 72 ПФЛОПС (144 с разреженностью)
NVLink: 5-го пок., 1,8 ТБ/с на GPU
Процессоры: 2 × Intel Xeon или 2 × AMD EPYC 9005
Питание: до ~14,3 кВт на узел
Корпус: 10U воздух или 4U с жидкостным

Описание

NVIDIA HGX B200 — серверная платформа с восемью ускорителями Blackwell B200 SXM по 180 ГБ HBM3e: 1 440 ГБ на узел и 8 ТБ/с на GPU. Ускорители связаны NVLink 5-го поколения через NVSwitch — 1,8 ТБ/с на GPU, 14,4 ТБ/с суммарно. Производительность FP4 — 72 ПФЛОПС (144 с разреженностью). Хост строится на двух Intel Xeon или двух AMD EPYC 9005, для вычислительной фабрики предусмотрены восемь ConnectX-7 до 400 Гбит/с и DPU BlueField-3.

Для каких задач: обучение и дообучение больших языковых моделей, плотный инференс под высокой нагрузкой, узлы GPU-кластеров, научные расчёты.

Доступны два исполнения: 10U с воздушным охлаждением и 4U с жидкостным direct-to-chip. Потребление узла — до ~14,3 кВт, стойка должна быть рассчитана на такое питание и теплоотвод. Процессоры, память, накопители и сеть подбираются под задачу.

Характеристики

Ускорители

GPU	8 × NVIDIA Blackwell (B200) SXM
Память GPU	1 440 ГБ HBM3e, 180 ГБ на GPU
Пропускная способность памяти	64 ТБ/с суммарно, 8 ТБ/с на GPU
NVLink	5-го поколения, 1,8 ТБ/с на GPU, 14,4 ТБ/с суммарно
Коммутация	2 × NVLink Switch (NVSwitch 5-го поколения)
FP4 Tensor	72 ПФЛОПС (144 с разреженностью)
FP8 / FP6 Tensor	36 ПФЛОПС (72 с разреженностью)
INT8 Tensor	36 POPS (72 с разреженностью)
FP16 / BF16 Tensor	18 ПФЛОПС (36 с разреженностью)
TF32 Tensor	9 ПФЛОПС (18 с разреженностью)
FP32	600 ТФЛОПС
FP64 / FP64 Tensor	296 ТФЛОПС

Процессоры

Варианты платформы	2 × Intel Xeon (5-го пок. или Xeon 6 серии 6700) или 2 × AMD EPYC 9005/9004 (до 192 ядер, до 500 Вт)

Оперативная память

Intel Xeon 6	32 слота DDR5 RDIMM: до 4 ТБ DDR5-6400 (1DPC) или до 8 ТБ (2DPC)
AMD EPYC 9005	24 слота DDR5 RDIMM, до 6 ТБ DDR5-6400

Накопители

Данные	8 × NVMe (U.2 или E1.S), горячая замена
Загрузка	2 × M.2 NVMe

Сеть

Вычислительная фабрика	8 × ConnectX-7, до 400 Гбит/с InfiniBand/Ethernet
Суммарно	0,8 ТБ/с на узел
Хранилище и управление	BlueField-3 DPU, до 400 Гбит/с; 10GbE RJ45

Слоты расширения

PCIe	8 × PCIe 5.0 x16 LP + 2 × PCIe 5.0 x16 FHHL (типично)

Питание и охлаждение

Потребление	до ~14,3 кВт на узел
Блоки питания	6 × 5 250 Вт (3+3) — воздух; 4 × 6 600 Вт (2+2) — жидкость; Titanium
Охлаждение	воздушное (10U) или жидкостное direct-to-chip (4U)

Корпус

Высота	10U (воздух) или 4U (жидкость)
Ш × Г × В, мм	10U: 482 × 897 × 444; 4U: 448 × 991 × 174
Масса	10U: ~133 кг; 4U: ~85 кг
Рабочая температура	10–35 °C

Управление и ПО

Управление	BMC с выделенным портом RJ45
ПО	NVIDIA AI Enterprise, CUDA, Ubuntu / RHEL

По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.

Похожее оборудование

NVIDIA HGX B300
Восемь Blackwell Ultra по 288 ГБ HBM3e, NVLink 5 и 800 Гбит/с сети на каждый GPU — для обучения и инференса крупнейших моделей.
Ускорители
8 × B300 SXM, 288 ГБ HBM3e каждый
FP4
108 ПФЛОПС (144 с разреженностью)
NVLink
5-го пок., 1,8 ТБ/с на GPU
Сеть
8 × ConnectX-8 SuperNIC, 800 Гбит/с
Процессоры
2 × Intel Xeon 6 или 2 × AMD EPYC 9005
Срок поставки: 8–12 недель
Цена по запросу
Выбрать сервер
NVIDIA HGX H200
Восемь Hopper H200 по 141 ГБ HBM3e и 4,8 ТБ/с. Модели, не помещавшиеся в 80 ГБ H100, работают без разбиения.
Ускорители
8 × H200 SXM5, 141 ГБ HBM3e каждый
Память GPU
1 128 ГБ, 4,8 ТБ/с на GPU
FP8
~16 ПФЛОПС (~32 с разреженностью)
NVLink
4-го пок., 900 ГБ/с на GPU
Питание
до ~10,2 кВт на узел
Срок поставки: 3–5 недель
Цена по запросу
Выбрать сервер