Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.

NVIDIA H100 / H200 — OEM

Ускорители Hopper: H100 с 80 или 94 ГБ HBM3 и H200 с 141 ГБ HBM3e и 4,8 ТБ/с, SXM или PCIe.

Наличие: Под заказ
Срок поставки: по запросу
Цена: Цена по запросу

Память: H100: 80 или 94 ГБ; H200: 141 ГБ
Пропускная способность: 3,35 / 3,9 / 4,8 ТБ/с
FP8 (Tensor): 3 958 ТФЛОПС с разреж. (SXM)
Питание: SXM до 700 Вт; PCIe 350–600 Вт
Форм-фактор: Модуль SXM или PCIe, 2 слота
MIG: До 7 экземпляров GPU

Описание

NVIDIA H100 и H200 — ускорители на архитектуре Hopper с Transformer Engine для FP8 в исполнениях SXM и PCIe (NVL). H100 SXM — 80 ГБ HBM3 (3,35 ТБ/с), H100 NVL — 94 ГБ HBM3 (3,9 ТБ/с); H200 SXM и H200 NVL — 141 ГБ HBM3e (4,8 ТБ/с). FP8 с разреженностью — 3 958 ТФЛОПС у SXM и 3 341 ТФЛОПС у NVL.

Для каких задач: обучение и дообучение языковых моделей, инференс LLM, HPC-расчёты в FP64, разделение GPU между пользователями через MIG — до 7 экземпляров.

Поставляется только ускоритель, без сервера. Модули SXM (до 700 Вт) ставятся на платы HGX на 4 или 8 ускорителей. NVL — двухслотовые карты с пассивным охлаждением, от 1 до 8 на сервер: H100 NVL потребляет 350–400 Вт, H200 NVL — до 600 Вт; H200 NVL объединяются мостом NVLink по 2 или 4.

Характеристики

Архитектура

Поколение	NVIDIA Hopper (H100 и H200)
Исполнения	H100 SXM, H100 NVL (PCIe), H200 SXM, H200 NVL (PCIe)
Transformer Engine	Поддержка FP8 с динамическим управлением точностью

Память

H100 SXM	80 ГБ HBM3, 3,35 ТБ/с
H100 NVL	94 ГБ HBM3, 3,9 ТБ/с (188 ГБ на пару ускорителей)
H200 SXM	141 ГБ HBM3e, 4,8 ТБ/с
H200 NVL	141 ГБ HBM3e, 4,8 ТБ/с

Производительность

FP64	SXM: 34 ТФЛОПС; NVL: 30 ТФЛОПС
FP64 (Tensor)	SXM: 67 ТФЛОПС; NVL: 60 ТФЛОПС
FP32	SXM: 67 ТФЛОПС; NVL: 60 ТФЛОПС
TF32 (Tensor)	SXM: 989 ТФЛОПС; NVL: 835 ТФЛОПС (с разреженностью)
BF16 и FP16 (Tensor)	SXM: 1 979 ТФЛОПС; NVL: 1 671 ТФЛОПС (с разреженностью)
FP8 (Tensor)	SXM: 3 958 ТФЛОПС; NVL: 3 341 ТФЛОПС (с разреженностью)
INT8 (Tensor)	SXM: 3 958 TOPS; NVL: 3 341 TOPS (с разреженностью)
Примечание	Без разреженности значения вдвое меньше; цифры совпадают для H100 и H200 соответствующих исполнений

Интерфейс и связь

SXM	NVLink 900 ГБ/с; PCIe 5.0 — 128 ГБ/с
H100 NVL	NVLink 600 ГБ/с; PCIe 5.0 — 128 ГБ/с
H200 NVL	Мост NVLink на 2 или 4 ускорителя, 900 ГБ/с на GPU; PCIe 5.0 — 128 ГБ/с

Декодеры

Аппаратные блоки	7 × NVDEC, 7 × JPEG (все исполнения)

Питание и охлаждение

H100 SXM	До 700 Вт (настраивается)
H100 NVL	350–400 Вт (настраивается)
H200 SXM	До 700 Вт (настраивается)
H200 NVL	До 600 Вт (настраивается)

Форм-фактор

SXM	Модуль SXM на платах HGX на 4 или 8 ускорителей; системы DGX на 8 ускорителей
PCIe (NVL)	Двухслотовая карта с пассивным охлаждением, 1–8 на сервер

Виртуализация и ПО

MIG	H100 SXM: до 7 × 10 ГБ; H100 NVL: до 7 × 12 ГБ; H200 SXM: до 7 × 18 ГБ; H200 NVL: до 7 × 16,5 ГБ
Платформа	CUDA, NVIDIA AI Enterprise (для NVL входит в комплект, для SXM — опция)

По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.

Похожее оборудование

GIGABYTE RTX 5060 WINDFORCE OC
Видеокарта GeForce RTX 5060 (Blackwell) с 8 ГБ GDDR7 и компактным двухвентиляторным кулером WINDFORCE, заводской разгон.
GPU
GeForce RTX 5060, 3 840 CUDA-ядер
Память
8 ГБ GDDR7, 128 бит, 448 ГБ/с
ИИ
614 AI TOPS (FP4, разреж.)
Шина
PCIe 5.0 x8
Питание
145 Вт, 1 × 8-pin
Конфигурация под задачу
Цена по запросу
Подробнее
SAPPHIRE Radeon RX 9060 XT PULSE
Видеокарта Radeon RX 9060 XT (RDNA 4) с 16 ГБ GDDR6 и заводским разгоном в исполнении SAPPHIRE PULSE; поддерживается ROCm в Linux.
GPU
Radeon RX 9060 XT, 32 CU / 2 048 SP
Память
16 ГБ GDDR6, 128 бит, 320 ГБ/с
ИИ
FP16: 103 ТФЛОПС (205 с разреж.)
Шина
PCIe 5.0 x16
Питание
170 Вт, 1 × 8-pin, БП от 450 Вт
Конфигурация под задачу
Цена по запросу
Подробнее
ASUS RTX 5060 Ti DUAL OC
Видеокарта GeForce RTX 5060 Ti с 16 ГБ GDDR7 в двухвентиляторном исполнении ASUS Dual с заводским разгоном.
GPU
GeForce RTX 5060 Ti, 4 608 CUDA-ядер
Память
16 ГБ GDDR7, 128 бит, 448 ГБ/с
ИИ
759 AI TOPS (FP4, разреж.)
Шина
PCIe 5.0 x8
Питание
180 Вт, 1 × 8-pin, БП от 550 Вт
Конфигурация под задачу
Цена по запросу
Подробнее