Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.
NVIDIA GB300 NVL72
Стойка NVIDIA GB300 NVL72: 72 Blackwell Ultra и 36 Grace, 20 ТБ HBM3e, NVLink 130 ТБ/с, ConnectX-8 800 Гбит/с на GPU.
- Наличие
- Под заказ
- Срок поставки
- по запросу
- Цена
- Цена по запросу
- Ускорители
- 72 × Blackwell Ultra, 288 ГБ HBM3e
- Процессоры
- 36 × Grace (2 592 ядра Neoverse V2)
- FP4
- 1 080 ПФЛОПС (1 440 с разреженностью)
- Сеть
- ConnectX-8, 800 Гбит/с на GPU
- Питание
- до 142 кВт на стойку
- Охлаждение
- жидкостное, стойка MGX 48U
Описание
Стойка NVIDIA GB300 NVL72 объединяет 72 GPU Blackwell Ultra и 36 CPU Grace в единый домен NVLink 5-го поколения с пропускной способностью 130 ТБ/с. У каждого GPU 288 ГБ HBM3e, всего на стойку 20 ТБ HBM3e и 17 ТБ LPDDR5X. Производительность FP4 — 1 080 ПФЛОПС (1 440 с разреженностью), на каждый GPU приходится ConnectX-8 на 800 Гбит/с.
Для каких задач: обучение передовых моделей, инференс рассуждающих LLM с длинным контекстом, распределённый инференс в масштабе ИИ-фабрики.
Стойка MGX 48U охлаждается только жидкостью и потребляет до 142 кВт, питание распределяется по шине 48 В DC. Нужна площадка с подготовленным жидкостным контуром и энергоснабжением; сеть Quantum-X800 или Spectrum-X проектируется вместе с системой.
Характеристики
Состав
| Конфигурация | 72 GPU Blackwell Ultra + 36 CPU Grace |
|---|---|
| Вычислительные лотки | 18 × 1U, в каждом 2 Grace + 4 Blackwell Ultra |
| Коммутационные лотки NVLink | 9 × 1U, по 2 ASIC NVSwitch 5-го поколения |
| Управление | 2 коммутатора внеполосного управления SN2201 |
| Стойка | MGX 48U |
Ускорители
| GPU | 72 × NVIDIA Blackwell Ultra (B300) |
|---|---|
| FP4 | 1 080 ПФЛОПС (1 440 с разреженностью) |
| FP8 / FP6 | 720 ПФЛОПС (с разреженностью) |
| INT8 | 24 POPS (с разреженностью) |
| FP16 / BF16 | 360 ПФЛОПС (с разреженностью) |
| TF32 | 180 ПФЛОПС (с разреженностью) |
| FP32 | 6 ПФЛОПС |
| FP64 / FP64 Tensor Core | 100 ТФЛОПС |
Процессоры
| CPU | 36 × NVIDIA Grace, по 72 ядра Arm Neoverse V2 |
|---|---|
| Всего ядер | 2 592 |
| Связь CPU–GPU | NVLink-C2C |
Память
| HBM3e GPU | 20 ТБ на стойку; 288 ГБ на GPU (1 152 ГБ на лоток) |
|---|---|
| Пропускная способность HBM | до 576 ТБ/с на стойку |
| LPDDR5X CPU | 17 ТБ на стойку |
| Пропускная способность LPDDR5X | 14 ТБ/с |
| Быстрая память (HBM + LPDDR5X) | 37 ТБ |
Интерконнект
| NVLink | 5-го поколения, единый домен из 72 GPU |
|---|---|
| Пропускная способность NVLink | 130 ТБ/с на стойку; 1,8 ТБ/с на GPU (18 линков) |
Сеть
| Кластерная сеть | 4 × ConnectX-8 SuperNIC на лоток, до 800 Гбит/с на GPU |
|---|---|
| Совместимость | Quantum-X800 InfiniBand или Spectrum-X Ethernet |
| North-South | BlueField-3 DPU (по эталонной архитектуре NVIDIA) |
Накопители
| На вычислительный лоток | 1 × M.2 NVMe (ОС) + 4 × E1.S NVMe (кэш); у OEM — до 8 × E1.S |
|---|
Питание и охлаждение
| Потребление стойки | до 142 кВт (эталонная архитектура NVIDIA) |
|---|---|
| Силовые полки | 8 шт. по 33 кВт, по 6 × БП 5,5 кВт |
| Распределение | шина 48 В DC |
| Охлаждение | жидкостное, детекция протечек на уровне лотка и стойки |
Габариты и вес
| Ш × Г × В, мм | 600 × 1 068 × 2 296 (стойка MGX 48U, зависит от OEM) |
|---|
ПО
| Управление | NVIDIA OpenBMC |
|---|---|
| Программный стек | CUDA, NVIDIA AI Enterprise; ОС Ubuntu |
По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.
Похожее оборудование
Tenstorrent Galaxy Supercluster
Кластер из четырёх серверов Tenstorrent Galaxy Blackhole: 128 ASIC Blackhole, 4 ТБ GDDR6, Ethernet-интерконнект.
- Состав
- 4 × Galaxy Blackhole (по 6U)
- Ускорители
- 128 × Blackhole (4 × 32)
- Память ускорителей
- 4 × 1 ТБ GDDR6 (16 ТБ/с на систему)
- Вычисления
- 4 × 23 ПФЛОПС Block FP8
- Питание
- 4 × 8–10 кВт в среднем, до 12 кВт макс.
Sugon scaleX40
Бескабельный суперузел Sugon scaleX40: 40 ИИ-ускорителей с одноуровневой коммутацией, >28 ПФЛОПС FP8, до 45 кВт на PoD.
- Ускорители
- 40 шт., >5,62 ТБ HBM суммарно
- Вычисления
- >28 ПФЛОПС FP8 на PoD
- Процессоры
- 10 × Hygon C86-4G/H (1 на узел)
- Интерконнект
- CLOS, 448 ГБ/с P2P между любыми картами
- Питание
- <45 кВт на PoD, блок питания 60 кВт
AMD Helios / Instinct MI400
Стоечная платформа AMD Helios: 72 × Instinct MI455X, EPYC Venice, UALink over Ethernet, 31 ТБ HBM4, стойка OCP ORW.
- Ускорители
- 72 × MI455X, 432 ГБ HBM4 каждый
- Вычисления
- FP4 2,9 ЭФЛОПС, FP8 1,4 ЭФЛОПС
- Процессоры
- AMD EPYC «Venice» (Zen 6)
- Scale-up
- UALink over Ethernet, 260 ТБ/с
- Scale-out
- Pensando Vulcano 800G, 43 ТБ/с
