Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.
NVIDIA A100
Ускоритель Ampere: 40 или 80 ГБ HBM, до 2 039 ГБ/с, MIG до 7 экземпляров, исполнения PCIe и SXM.
- Наличие
- Под заказ
- Срок поставки
- по запросу
- Цена
- Цена по запросу
- Память
- 80 ГБ HBM2e (есть версия 40 ГБ)
- Пропускная способность
- PCIe 1 935, SXM 2 039 ГБ/с
- FP16 (Tensor)
- 312 ТФЛОПС (624 с разреж.)
- FP64
- 9,7 ТФЛОПС (19,5 на Tensor)
- Питание
- PCIe 300 Вт; SXM 400 Вт
- Форм-фактор
- 2 слота PCIe или модуль SXM
Описание
NVIDIA A100 — ускоритель на архитектуре Ampere с 80 ГБ HBM2e; выпускалась и версия на 40 ГБ. Пропускная способность памяти версии 80 ГБ — 1 935 ГБ/с в исполнении PCIe и 2 039 ГБ/с в SXM. Производительность FP16 и BF16 на тензорных ядрах — 312 ТФЛОПС (624 с разреженностью), FP64 — 9,7 ТФЛОПС (19,5 на тензорных ядрах). Через MIG ускоритель делится на до 7 изолированных экземпляров.
Для каких задач: инференс и дообучение моделей среднего размера, научные расчёты в FP64, многопользовательские среды с разделением GPU, расширение существующих кластеров на A100.
Исполнения различаются: PCIe-карта на 300 Вт (двухслотовая пассивная или однослотовая с жидкостным охлаждением, NVLink-мост на два ускорителя) и модуль SXM на 400 Вт, который работает только в составе плат HGX A100 на 4 или 8 ускорителей. Это предыдущее поколение NVIDIA; поставляется только ускоритель, без сервера.
Характеристики
Архитектура
| Поколение | NVIDIA Ampere |
|---|---|
| Исполнения | PCIe-карта и модуль SXM для плат HGX A100 |
| MIG | До 7 экземпляров GPU по 10 ГБ (на версии 80 ГБ) |
Память
| Объём | 80 ГБ HBM2e; выпускалась также версия 40 ГБ |
|---|---|
| Пропускная способность, PCIe | 1 935 ГБ/с (80 ГБ) |
| Пропускная способность, SXM | 2 039 ГБ/с (80 ГБ) |
| Версия 40 ГБ | Пропускную способность NVIDIA на текущей странице продукта не приводит |
Производительность
| FP64 | 9,7 ТФЛОПС |
|---|---|
| FP64 (Tensor) | 19,5 ТФЛОПС |
| FP32 | 19,5 ТФЛОПС |
| TF32 (Tensor) | 156 ТФЛОПС (312 с разреженностью) |
| BF16 (Tensor) | 312 ТФЛОПС (624 с разреженностью) |
| FP16 (Tensor) | 312 ТФЛОПС (624 с разреженностью) |
| INT8 (Tensor) | 624 TOPS (1 248 с разреженностью) |
Интерфейс и связь
| NVLink | 600 ГБ/с; для PCIe-версии — мост NVLink на 2 ускорителя |
|---|---|
| Шина | PCIe 4.0, 64 ГБ/с |
Питание и охлаждение
| PCIe | 300 Вт |
|---|---|
| SXM | 400 Вт в стандартной конфигурации |
| SXM с особым охлаждением | Отдельное исполнение HGX A100 80 ГБ поддерживает до 500 Вт |
Форм-фактор
| PCIe | Двухслотовая карта с пассивным охлаждением или однослотовая с жидкостным |
|---|---|
| SXM | Модуль SXM, только в составе плат HGX A100 на 4 или 8 ускорителей |
ПО
| Платформа | CUDA, NVIDIA AI Enterprise, NGC |
|---|---|
| Разделение ресурсов | Multi-Instance GPU (MIG) |
По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.
Похожее оборудование
GIGABYTE RTX 5060 WINDFORCE OC
Видеокарта GeForce RTX 5060 (Blackwell) с 8 ГБ GDDR7 и компактным двухвентиляторным кулером WINDFORCE, заводской разгон.
- GPU
- GeForce RTX 5060, 3 840 CUDA-ядер
- Память
- 8 ГБ GDDR7, 128 бит, 448 ГБ/с
- ИИ
- 614 AI TOPS (FP4, разреж.)
- Шина
- PCIe 5.0 x8
- Питание
- 145 Вт, 1 × 8-pin
SAPPHIRE Radeon RX 9060 XT PULSE
Видеокарта Radeon RX 9060 XT (RDNA 4) с 16 ГБ GDDR6 и заводским разгоном в исполнении SAPPHIRE PULSE; поддерживается ROCm в Linux.
- GPU
- Radeon RX 9060 XT, 32 CU / 2 048 SP
- Память
- 16 ГБ GDDR6, 128 бит, 320 ГБ/с
- ИИ
- FP16: 103 ТФЛОПС (205 с разреж.)
- Шина
- PCIe 5.0 x16
- Питание
- 170 Вт, 1 × 8-pin, БП от 450 Вт
ASUS RTX 5060 Ti DUAL OC
Видеокарта GeForce RTX 5060 Ti с 16 ГБ GDDR7 в двухвентиляторном исполнении ASUS Dual с заводским разгоном.
- GPU
- GeForce RTX 5060 Ti, 4 608 CUDA-ядер
- Память
- 16 ГБ GDDR7, 128 бит, 448 ГБ/с
- ИИ
- 759 AI TOPS (FP4, разреж.)
- Шина
- PCIe 5.0 x8
- Питание
- 180 Вт, 1 × 8-pin, БП от 550 Вт
