Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.
NVIDIA GB200 NVL72
Стойка NVIDIA GB200 NVL72: 36 Grace + 72 Blackwell в едином домене NVLink 130 ТБ/с, 13,4 ТБ HBM3e, жидкостное охлаждение.
- Наличие
- Под заказ
- Срок поставки
- по запросу
- Цена
- Цена по запросу
- Ускорители
- 72 × Blackwell, 186 ГБ HBM3e каждый
- Процессоры
- 36 × Grace (2 592 ядра Neoverse V2)
- FP4
- 720 ПФЛОПС (1 440 с разреженностью)
- NVLink
- 5-го поколения, 130 ТБ/с на стойку
- Питание
- ≈120 кВт на стойку
- Охлаждение
- жидкостное (вычислительные лотки)
Описание
NVIDIA GB200 NVL72 — стойка из 36 суперчипов GB200: 72 GPU Blackwell и 36 процессоров Grace (2 592 ядра Arm Neoverse V2), объединённых NVLink 5-го поколения в единый домен на 130 ТБ/с. Внутри 18 вычислительных и 9 коммутационных лотков NVLink, 13,4 ТБ HBM3e и 17 ТБ LPDDR5X; FP4 — 720 ПФЛОПС, с разреженностью 1 440 ПФЛОПС.
Для каких задач: крупномасштабное обучение больших моделей, распределённый инференс LLM и моделей MoE в реальном времени, ИИ-фабрики из нескольких стоек.
Это инфраструктурный проект, а не отдельный сервер: стойка потребляет около 120 кВт, вычислительные лотки охлаждаются жидкостью через холодные пластины, питание — 8 силовых полок по 33 кВт на шине 50–51 В DC с резервированием N+N. В конфигурации DGX каждый лоток получает 4 × ConnectX-7 400G и 2 × BlueField-3.
Характеристики
Состав
| Конфигурация | 36 × GB200 Superchip (36 Grace CPU + 72 Blackwell GPU) |
|---|---|
| Вычислительные лотки | 18 × 1U, в каждом 2 Grace + 4 Blackwell |
| Коммутационные лотки NVLink | 9 × 1U, по 2 NVSwitch (72 порта NVLink каждый) |
| Прочее | 2 ToR-коммутатора управления, пассивный медный бэкплейн NVLink, шина питания, коллекторы жидкостного охлаждения |
Ускорители
| GPU | 72 × NVIDIA Blackwell |
|---|---|
| NVFP4 | 720 ПФЛОПС (1 440 с разреженностью) |
| FP8 / FP6 | 360 ПФЛОПС (720 с разреженностью) |
| INT8 | 360 POPS (720 с разреженностью) |
| FP16 / BF16 | 180 ПФЛОПС (360 с разреженностью) |
| TF32 | 90 ПФЛОПС (180 с разреженностью) |
| FP32 | 5 760 ТФЛОПС |
| FP64 / FP64 Tensor Core | 2 880 ТФЛОПС |
Процессоры
| CPU | 36 × NVIDIA Grace, по 72 ядра Arm Neoverse V2 |
|---|---|
| Всего ядер | 2 592 |
| Связь CPU–GPU | NVLink-C2C |
Память
| HBM3e GPU | 13,4 ТБ на стойку; 372 ГБ на Superchip (186 ГБ на GPU) |
|---|---|
| Пропускная способность HBM | 576 ТБ/с на стойку; 16 ТБ/с на Superchip |
| LPDDR5X CPU | 17 ТБ на стойку; до 480 ГБ на Grace |
| Пропускная способность LPDDR5X | 14 ТБ/с на стойку; до 512 ГБ/с на Grace |
Интерконнект
| NVLink | 5-го поколения, единый домен из 72 GPU |
|---|---|
| Пропускная способность NVLink | 130 ТБ/с на стойку; 1,8 ТБ/с на GPU |
| Коммутационный лоток | 57,6 Тбит/с полный дуплекс |
Сеть
| Кластерная сеть (DGX GB200) | 4 × ConnectX-7 400G OSFP на вычислительный лоток |
|---|---|
| Хранилище / управление (DGX GB200) | 2 × BlueField-3 DPU, 2 × 400G InfiniBand или Ethernet |
| Внеполосное управление | 1GbE RJ45 BMC + 2 × 1GbE RJ45 BMC BlueField-3 |
Накопители
| Кэш данных (DGX GB200) | 4 × 3,84 ТБ E1.S NVMe на лоток (программный RAID 0) |
|---|---|
| Загрузочный (DGX GB200) | 1 × 1,92 ТБ M.2 NVMe на лоток |
Питание и охлаждение
| Потребление стойки | ≈120 кВт |
|---|---|
| Силовые полки | 8 шт. по 33 кВт, в каждой 6 × БП 5,5 кВт с воздушным охлаждением |
| Резервирование | N+N |
| Распределение | шина 50–51 В DC |
| Охлаждение | жидкостное: холодные пластины CPU и GPU; сеть и накопители — воздушное |
ПО
| Программный стек | NVIDIA AI Enterprise, CUDA, Mission Control (для DGX), NVOS 2.0+ на коммутаторах NVLink |
|---|
По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.
Похожее оборудование
Tenstorrent Galaxy Supercluster
Кластер из четырёх серверов Tenstorrent Galaxy Blackhole: 128 ASIC Blackhole, 4 ТБ GDDR6, Ethernet-интерконнект.
- Состав
- 4 × Galaxy Blackhole (по 6U)
- Ускорители
- 128 × Blackhole (4 × 32)
- Память ускорителей
- 4 × 1 ТБ GDDR6 (16 ТБ/с на систему)
- Вычисления
- 4 × 23 ПФЛОПС Block FP8
- Питание
- 4 × 8–10 кВт в среднем, до 12 кВт макс.
Sugon scaleX40
Бескабельный суперузел Sugon scaleX40: 40 ИИ-ускорителей с одноуровневой коммутацией, >28 ПФЛОПС FP8, до 45 кВт на PoD.
- Ускорители
- 40 шт., >5,62 ТБ HBM суммарно
- Вычисления
- >28 ПФЛОПС FP8 на PoD
- Процессоры
- 10 × Hygon C86-4G/H (1 на узел)
- Интерконнект
- CLOS, 448 ГБ/с P2P между любыми картами
- Питание
- <45 кВт на PoD, блок питания 60 кВт
AMD Helios / Instinct MI400
Стоечная платформа AMD Helios: 72 × Instinct MI455X, EPYC Venice, UALink over Ethernet, 31 ТБ HBM4, стойка OCP ORW.
- Ускорители
- 72 × MI455X, 432 ГБ HBM4 каждый
- Вычисления
- FP4 2,9 ЭФЛОПС, FP8 1,4 ЭФЛОПС
- Процессоры
- AMD EPYC «Venice» (Zen 6)
- Scale-up
- UALink over Ethernet, 260 ТБ/с
- Scale-out
- Pensando Vulcano 800G, 43 ТБ/с
