Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.
NVIDIA HGX B300
Восемь Blackwell Ultra по 288 ГБ HBM3e, NVLink 5 и 800 Гбит/с сети на каждый GPU — для обучения и инференса крупнейших моделей.
- Наличие
- Предзаказ
- Срок поставки
- 8–12 недель
- Цена
- Цена по запросу
- Ускорители
- 8 × B300 SXM, 288 ГБ HBM3e каждый
- FP4
- 108 ПФЛОПС (144 с разреженностью)
- NVLink
- 5-го пок., 1,8 ТБ/с на GPU
- Сеть
- 8 × ConnectX-8 SuperNIC, 800 Гбит/с
- Процессоры
- 2 × Intel Xeon 6 или 2 × AMD EPYC 9005
- Корпус
- 8–10U воздух или 4U с жидкостным
Описание
Сервер на плате HGX B300 с восемью ускорителями NVIDIA Blackwell Ultra в исполнении SXM. У каждого GPU 288 ГБ HBM3e — около 2,3 ТБ на узел, связь между ними — NVLink 5-го поколения через NVSwitch, 1,8 ТБ/с на GPU. На каждый ускоритель приходится свой адаптер ConnectX-8 SuperNIC на 800 Гбит/с, производительность FP4 — 108 ПФЛОПС (144 с разреженностью).
Для каких задач: обучение и дообучение крупнейших языковых и мультимодальных моделей, инференс моделей с длинным контекстом, узлы масштабируемых GPU-кластеров на InfiniBand или Ethernet.
Платформа собирается на Intel Xeon 6 или AMD EPYC 9005, память, накопители и сеть подбираются под задачу. Узел потребляет около 14–15 кВт: воздушный вариант занимает 8–10U, жидкостный direct-to-chip — 4U и требует подготовленной площадки.
Характеристики
Ускорители
| GPU | 8 × NVIDIA Blackwell Ultra (B300) SXM |
|---|---|
| Память GPU | 288 ГБ HBM3e на GPU, около 2,3 ТБ на узел |
| NVLink | 5-го поколения, 1,8 ТБ/с на GPU, 14,4 ТБ/с суммарно |
| Коммутация | NVLink Switch (NVSwitch 5-го поколения) |
| FP4 Tensor | 108 ПФЛОПС (144 с разреженностью) |
| FP8 / FP6 Tensor | 36 ПФЛОПС (72 с разреженностью) |
| FP16 / BF16 Tensor | 18 ПФЛОПС (36 с разреженностью) |
| TF32 Tensor | 9 ПФЛОПС (18 с разреженностью) |
| FP32 | 600 ТФЛОПС |
| FP64 | 10 ТФЛОПС |
Процессоры
| Варианты платформы | 2 × Intel Xeon 6 серии 6700 (до 86 ядер, до 350 Вт) или 2 × AMD EPYC 9005 |
|---|
Оперативная память
| Intel Xeon 6 | 32 слота DDR5 RDIMM: до 4 ТБ DDR5-6400 (1DPC) или до 8 ТБ DDR5-6000 (2DPC) |
|---|---|
| AMD EPYC 9005 | 24 слота DDR5 RDIMM, до 6 ТБ DDR5-6400 |
Накопители
| Данные | 8 × E1.S NVMe, горячая замена |
|---|---|
| Загрузка | 2 × M.2 NVMe |
Сеть
| Вычислительная фабрика | 8 × ConnectX-8 SuperNIC, до 800 Гбит/с InfiniBand/Ethernet, 8 портов OSFP |
|---|---|
| Суммарно | 1,6 ТБ/с на узел |
| Дополнительно | DPU BlueField-3 или 10GbE RJ45 — в зависимости от платформы |
Слоты расширения
| PCIe | 2 × PCIe 5.0 x16 FHHL (типично) |
|---|
Питание и охлаждение
| Потребление | около 14–15 кВт на узел |
|---|---|
| Блоки питания | 6 × 6 600 Вт (3+3) или 12 × 3 300 Вт (N+N), Titanium; вариант с питанием от шины DC |
| Охлаждение | воздушное (8–10U) или жидкостное direct-to-chip (4U) |
Корпус
| Высота | 8U или 10U (воздух), 4U (жидкость) |
|---|---|
| Ш × Г × В, мм | 449 × 950 × 356 (типовая 8U-платформа) |
| Масса | до ~120–170 кг в зависимости от платформы |
| Рабочая температура | 10–35 °C |
Управление и ПО
| Управление | BMC с выделенным портом, TPM 2.0 |
|---|---|
| ПО | NVIDIA AI Enterprise, CUDA, Ubuntu / RHEL / Rocky Linux |
По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.
Похожее оборудование
NVIDIA HGX B200
Восемь Blackwell по 180 ГБ HBM3e и NVLink 1,8 ТБ/с на GPU. Основная платформа для новых кластеров обучения и инференса.
- Ускорители
- 8 × B200 SXM, 180 ГБ HBM3e каждый
- FP4
- 72 ПФЛОПС (144 с разреженностью)
- NVLink
- 5-го пок., 1,8 ТБ/с на GPU
- Процессоры
- 2 × Intel Xeon или 2 × AMD EPYC 9005
- Питание
- до ~14,3 кВт на узел
NVIDIA HGX H200
Восемь Hopper H200 по 141 ГБ HBM3e и 4,8 ТБ/с. Модели, не помещавшиеся в 80 ГБ H100, работают без разбиения.
- Ускорители
- 8 × H200 SXM5, 141 ГБ HBM3e каждый
- Память GPU
- 1 128 ГБ, 4,8 ТБ/с на GPU
- FP8
- ~16 ПФЛОПС (~32 с разреженностью)
- NVLink
- 4-го пок., 900 ГБ/с на GPU
- Питание
- до ~10,2 кВт на узел
