Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.
NVIDIA H100 80 ГБ
Ускоритель NVIDIA H100 (Hopper) с 80 ГБ памяти: SXM5-модуль для платформ HGX или PCIe-карта; FP8, MIG, NVLink.
- Наличие
- Под заказ
- Срок поставки
- по запросу
- Цена
- Цена по запросу
- GPU
- NVIDIA Hopper (GH100)
- Память
- 80 ГБ: SXM5 — HBM3, PCIe — HBM2e
- FP8, с разреженностью
- SXM5 3 958 / PCIe 3 026 ТФЛОПС
- Исполнение
- SXM5 (HGX) или PCIe-карта, 2 слота
- Питание
- SXM5 до 700 Вт; PCIe до 350 Вт
Описание
NVIDIA H100 — ускоритель на архитектуре Hopper (GH100) с Transformer Engine и 80 ГБ памяти. Модуль SXM5 для платформ HGX H100 несёт 80 ГБ HBM3 (3,35 ТБ/с) и 16 896 ядер CUDA и связывается по NVLink на 900 ГБ/с; PCIe-карта — 80 ГБ HBM2e (2 ТБ/с) и 14 592 ядра CUDA. FP8 с разреженностью: 3 958 ТФЛОПС у SXM5 и 3 026 ТФЛОПС у PCIe.
Для каких задач: обучение и дообучение языковых моделей, инференс LLM, HPC-расчёты в FP64, разделение одного GPU между пользователями через MIG — до 7 экземпляров по 10 ГБ.
Поставляется только ускоритель — без сервера, процессора и памяти. Модуль SXM5 устанавливается в платформы HGX на 4 или 8 GPU и потребляет до 700 Вт. PCIe-версия — двухслотовая карта FHFL с пассивным охлаждением мощностью до 350 Вт, рассчитанная на продув сервера; соседние карты связываются NVLink-мостами на 600 ГБ/с.
Характеристики
Архитектура
| Графический процессор | NVIDIA Hopper (GH100), Transformer Engine |
|---|---|
| CUDA-ядра | SXM5: 16 896; PCIe: 14 592 |
| Тензорные ядра | SXM5: 528; PCIe: 456 (4-го поколения) |
| Частота (PCIe) | 1 125 МГц базовая, 1 755 МГц Boost |
Память
| SXM5 | 80 ГБ HBM3, 3,35 ТБ/с |
|---|---|
| PCIe | 80 ГБ HBM2e, 2 ТБ/с, шина 5 120 бит |
| ECC | да |
Производительность
| FP64 | SXM5: 34 ТФЛОПС; PCIe: 26 ТФЛОПС |
|---|---|
| FP64 (тензорные ядра) | SXM5: 67 ТФЛОПС; PCIe: 51 ТФЛОПС |
| FP32 | SXM5: 67 ТФЛОПС; PCIe: 51 ТФЛОПС |
| TF32 | SXM5: 495 (989 с разреженностью); PCIe: 378 (756 с разреженностью) ТФЛОПС |
| BF16 / FP16 | SXM5: 989 (1 979 с разреженностью); PCIe: 756 (1 513 с разреженностью) ТФЛОПС |
| FP8 | SXM5: 1 979 (3 958 с разреженностью); PCIe: 1 513 (3 026 с разреженностью) ТФЛОПС |
| INT8 | SXM5: 3 958 TOPS; PCIe: 3 026 TOPS (с разреженностью) |
Интерфейс и связь
| SXM5 | NVLink 900 ГБ/с; PCIe 5.0 x16 (128 ГБ/с) |
|---|---|
| PCIe | PCIe 5.0 x16 (128 ГБ/с); NVLink-мосты к соседней карте (3 моста), 600 ГБ/с |
| MIG | до 7 экземпляров по 10 ГБ |
| Конфиденциальные вычисления | поддерживаются |
Питание
| SXM5 | до 700 Вт (настраивается) |
|---|---|
| PCIe | до 350 Вт (310 Вт при кабеле 300 Вт), 1 × 16-pin PCIe |
Форм-фактор и охлаждение
| SXM5 | модуль для платформ HGX H100 на 4 или 8 GPU |
|---|---|
| PCIe | FHFL 10,5", 2 слота, пассивное охлаждение, 1 200 г |
Видеоблоки
| Декодеры | 7 × NVDEC, 7 × NVJPG |
|---|
ПО
| Программный стек | CUDA, NVIDIA AI Enterprise |
|---|
По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.
Похожее оборудование
GIGABYTE RTX 5060 WINDFORCE OC
Видеокарта GeForce RTX 5060 (Blackwell) с 8 ГБ GDDR7 и компактным двухвентиляторным кулером WINDFORCE, заводской разгон.
- GPU
- GeForce RTX 5060, 3 840 CUDA-ядер
- Память
- 8 ГБ GDDR7, 128 бит, 448 ГБ/с
- ИИ
- 614 AI TOPS (FP4, разреж.)
- Шина
- PCIe 5.0 x8
- Питание
- 145 Вт, 1 × 8-pin
SAPPHIRE Radeon RX 9060 XT PULSE
Видеокарта Radeon RX 9060 XT (RDNA 4) с 16 ГБ GDDR6 и заводским разгоном в исполнении SAPPHIRE PULSE; поддерживается ROCm в Linux.
- GPU
- Radeon RX 9060 XT, 32 CU / 2 048 SP
- Память
- 16 ГБ GDDR6, 128 бит, 320 ГБ/с
- ИИ
- FP16: 103 ТФЛОПС (205 с разреж.)
- Шина
- PCIe 5.0 x16
- Питание
- 170 Вт, 1 × 8-pin, БП от 450 Вт
ASUS RTX 5060 Ti DUAL OC
Видеокарта GeForce RTX 5060 Ti с 16 ГБ GDDR7 в двухвентиляторном исполнении ASUS Dual с заводским разгоном.
- GPU
- GeForce RTX 5060 Ti, 4 608 CUDA-ядер
- Память
- 16 ГБ GDDR7, 128 бит, 448 ГБ/с
- ИИ
- 759 AI TOPS (FP4, разреж.)
- Шина
- PCIe 5.0 x8
- Питание
- 180 Вт, 1 × 8-pin, БП от 550 Вт
