Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.
NVIDIA GB300 NVL72
Стойка из 72 Blackwell Ultra и 36 Grace в едином домене NVLink 130 ТБ/с, 37 ТБ быстрой памяти, жидкостное охлаждение.
- Наличие
- Под заказ
- Срок поставки
- 12–16 недель
- Цена
- Цена по запросу
- Состав
- 72 × Blackwell Ultra, 36 × Grace
- Память GPU
- 20 ТБ HBM3e, до 576 ТБ/с
- FP4
- 1 080 ПФЛОПС (1 440 с разреженностью)
- NVLink
- единый домен на 72 GPU, 130 ТБ/с
- Сеть
- 72 × ConnectX-8, 800 Гбит/с на GPU
- Охлаждение
- жидкостное, ~132 кВт на стойку
Описание
NVIDIA GB300 NVL72 — стоечная система из 72 ускорителей Blackwell Ultra и 36 процессоров Grace, объединённых в единый домен NVLink на 72 GPU с пропускной способностью 130 ТБ/с. В стойке 20 ТБ HBM3e и 17 ТБ LPDDR5X — всего 37 ТБ быстрой памяти. Производительность FP4 — 1 080 ПФЛОПС (1 440 с разреженностью). Каждый GPU подключается к фабрике через ConnectX-8 на 800 Гбит/с.
Для каких задач: обучение крупнейших моделей, инференс больших и рассуждающих моделей с длинным контекстом, построение ИИ-фабрик на InfiniBand или Ethernet.
Система требует жидкостного охлаждения direct-to-chip и подготовленного ЦОД: номинальное потребление ~132 кВт на стойку, пиковое ~155 кВт, питание через полки на шине 48 В DC. Стойка MGX 48U состоит из 18 вычислительных лотков и 9 лотков NVLink Switch.
Характеристики
Состав
| Вычислительные лотки | 18 × 1U, в каждом 2 × Grace и 4 × Blackwell Ultra |
|---|---|
| Коммутаторы NVLink | 9 лотков NVLink Switch 1U |
| Стойка | NVIDIA MGX, 48U |
Ускорители
| GPU | 72 × NVIDIA Blackwell Ultra |
|---|---|
| Память GPU | 20 ТБ HBM3e (до 288 ГБ на GPU) |
| Пропускная способность памяти | до 576 ТБ/с |
| FP4 Tensor | 1 080 ПФЛОПС (1 440 с разреженностью) |
| FP8 / FP6 Tensor | 720 ПФЛОПС |
| FP16 / BF16 Tensor | 360 ПФЛОПС (с разреженностью) |
| TF32 Tensor | 180 ПФЛОПС (с разреженностью) |
| INT8 Tensor | 24 POPS |
| FP32 | 6 ПФЛОПС |
| FP64 / FP64 Tensor | 100 ТФЛОПС |
Процессоры
| CPU | 36 × NVIDIA Grace, 2 592 ядра Arm Neoverse V2 |
|---|
Память
| Память CPU | 17 ТБ LPDDR5X, 14 ТБ/с |
|---|---|
| Быстрая память всего | 37 ТБ (HBM3e + LPDDR5X) |
| Накопители | до 8 × E1.S NVMe на вычислительный лоток |
Интерконнект
| NVLink | 5-го поколения, 1,8 ТБ/с на GPU, 130 ТБ/с на стойку |
|---|---|
| Домен | единый домен NVLink на 72 GPU |
Сеть
| Вычислительная фабрика | 72 × ConnectX-8 SuperNIC, 800 Гбит/с на GPU, InfiniBand или Ethernet |
|---|---|
| DPU | 18 × BlueField-3 двухпортовых, 200 Гбит/с (конфигурация DGX) |
| Совместимые фабрики | Quantum-X800 InfiniBand, Spectrum-X Ethernet |
Питание и охлаждение
| Охлаждение | жидкостное direct-to-chip, часть тепла отводится воздухом |
|---|---|
| Питание | полки по 33 кВт на шине 48 В DC, до 8 полок |
| Потребление | ~132 кВт номинально, пиковое ~155 кВт |
ПО
| ПО | NVIDIA Mission Control, NVIDIA AI Enterprise, DGX OS / Ubuntu |
|---|
По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.