Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.
NVIDIA DGX H200
NVIDIA DGX H200: 8 × H200 с NVLink, 1 128 ГБ HBM3e, 2 × Xeon Platinum 8480C, 2 ТБ ОЗУ, 8U.
- Наличие
- Под заказ
- Срок поставки
- по запросу
- Цена
- Цена по запросу
- Ускорители
- 8 × H200, 141 ГБ HBM3e каждый
- Вычисления
- FP8: 32 ПФЛОПС (с разреженностью)
- Процессоры
- 2 × Xeon Platinum 8480C, 112 ядер
- ОЗУ
- 2 ТБ
- Сеть
- 8 × ConnectX-7, до 400 Гбит/с
- Питание / корпус
- ~10,2 кВт макс., 8U
Описание
NVIDIA DGX H200 — готовая серверная система с восемью ускорителями H200 SXM по 141 ГБ HBM3e, всего 1 128 ГБ. GPU объединены четырьмя NVSwitch по NVLink 4-го поколения (900 ГБ/с), производительность FP8 — 32 ПФЛОПС с разреженностью. Хост — два Intel Xeon Platinum 8480C (112 ядер) и 2 ТБ ОЗУ; для кэша данных установлено восемь NVMe U.2 по 3,84 ТБ.
Для каких задач: обучение и дообучение больших моделей, многопользовательский инференс, научные расчёты, узлы GPU-кластеров.
Кластерная сеть — восемь ConnectX-7 до 400 Гбит/с, InfiniBand или Ethernet. Система занимает 8U, охлаждается воздухом и потребляет до ~10,2 кВт; блоки питания 6 × 3,3 кВт рассчитаны на 200–240 В. Поставляется с DGX OS и NVIDIA AI Enterprise.
Характеристики
Ускорители
| GPU | 8 × NVIDIA H200 (SXM) |
|---|---|
| Память GPU | 1 128 ГБ HBM3e суммарно (141 ГБ на GPU) |
| Производительность | FP8: 32 ПФЛОПС (с разреженностью) |
| Интерконнект | 4 × NVSwitch, NVLink 4-го поколения, 900 ГБ/с между GPU |
Процессоры
| CPU | 2 × Intel Xeon Platinum 8480C, по 56 ядер |
|---|---|
| Частота | 2,0 ГГц базовая / 3,8 ГГц макс. турбо |
Оперативная память
| Объём | 2 ТБ, 32 модуля DIMM |
|---|
Накопители
| Системные | 2 × 1,92 ТБ NVMe M.2 (RAID 1) |
|---|---|
| Кэш данных | 8 × 3,84 ТБ NVMe U.2 SED (RAID 0) |
Сеть
| Кластерная сеть | 4 × OSFP для 8 однопортовых ConnectX-7: InfiniBand до 400 Гбит/с или Ethernet до 400GbE |
|---|---|
| Сеть хранения и управления | 2 × двухпортовых ConnectX-7: Ethernet до 400GbE или InfiniBand до 400 Гбит/с |
| Служебные интерфейсы | 2 × 100GbE, 1 × 10GbE RJ45 |
| BMC | 1GbE RJ45; Redfish, IPMI, SNMP, KVM, веб-интерфейс |
Питание и охлаждение
| Потребление | ~10,2 кВт макс. |
|---|---|
| Блоки питания | 6 × 3,3 кВт, резервирование 4+2, 200–240 В AC |
| Охлаждение | воздушное, 1105 CFM |
| Рабочая температура | 5–30 °C |
Корпус
| Форм-фактор | 8U, монтаж в стойку |
|---|---|
| Ш × Г × В, мм | 482,3 × 897,1 × 356 |
| Вес | до 130,45 кг |
Управление и ПО
| ОС | NVIDIA DGX OS / Ubuntu; поддерживаются Red Hat Enterprise Linux, Rocky Linux |
|---|---|
| ПО | NVIDIA AI Enterprise, NVIDIA Base Command |
По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.
Похожее оборудование
Tenstorrent Galaxy Blackhole
Сервер 6U с 32 ускорителями Tenstorrent Blackhole: 1 ТБ GDDR6, 23 ПФЛОПС Block FP8, открытый программный стек.
- Ускорители
- 32 × Blackhole, 1 ТБ GDDR6 суммарно
- Вычисления
- 23 ПФЛОПС Block FP8
- Процессор
- 1 × AMD EPYC 9004, до 32 ядер
- ОЗУ
- до 576 ГБ DDR5-4800 ECC
- Масштабирование
- до 56 × 800GbE QSFP-DD
Supermicro AS-8126GS-NB3RT
Сервер Supermicro 8U на NVIDIA HGX B300 (8 × 288 ГБ HBM3e) и двух AMD EPYC 9005/9004, 8 × 800GbE.
- Ускорители
- HGX B300: 8 × 288 ГБ HBM3e
- Процессоры
- 2 × AMD EPYC 9005/9004, до 384 ядер
- ОЗУ
- до 6 ТБ DDR5-6400, 24 DIMM
- Сеть
- 8 × OSFP 800GbE (ConnectX-8)
- Накопители
- 8 × E1.S NVMe + 2 × M.2 NVMe
NVIDIA DGX B200
NVIDIA DGX B200: 8 × B200 с NVLink 5, 1 440 ГБ HBM3e, 2 × Xeon Platinum 8570, 2–4 ТБ ОЗУ, 10U.
- Ускорители
- 8 × B200, 180 ГБ HBM3e каждый
- Вычисления
- FP4: 144 ПФЛОПС (72 без разреж.)
- Процессоры
- 2 × Xeon Platinum 8570, 112 ядер
- ОЗУ
- 2 ТБ, расширяется до 4 ТБ
- Сеть
- 8 × ConnectX-7 + 2 × BlueField-3, 400G
