Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.
AMD Instinct MI300X
AMD Instinct MI300X (CDNA 3): OAM-модуль со 192 ГБ HBM3 и 5,3 ТБ/с для 8-GPU серверов; FP8 2,6 ПФЛОПС.
- Наличие
- Под заказ
- Срок поставки
- по запросу
- Цена
- Цена по запросу
- GPU
- AMD CDNA 3, 304 CU, 19 456 потоковых процессоров
- Память
- 192 ГБ HBM3, 5,3 ТБ/с
- FP8
- 2,61 ПФЛОПС (5,22 с разреженностью)
- Интерфейс
- OAM, 8 × Infinity Fabric, PCIe 5.0 x16
- Питание
- 750 Вт (пиковое)
Описание
Ускоритель AMD Instinct MI300X на архитектуре CDNA 3: 304 вычислительных блока, 19 456 потоковых процессоров и 192 ГБ HBM3 с пропускной способностью 5,3 ТБ/с. Производительность FP8 — 2,61 ПФЛОПС (5,22 с разреженностью), FP64 в матричных операциях — 163,4 ТФЛОПС. Модули связаны между собой 8 линками Infinity Fabric.
Для каких задач: инференс крупных языковых моделей, которые целиком помещаются в 192 ГБ памяти одного ускорителя, обучение и дообучение на ROCm, научные расчёты в FP64.
Это модуль OAM для установки на универсальную базовую плату 8-GPU сервера, а не PCIe-карта: сервер, процессоры и память в поставку не входят. Пиковая мощность 750 Вт, охлаждение пассивное за счёт обдува сервера. CUDA не поддерживается, программный стек — AMD ROCm.
Характеристики
Архитектура
| Архитектура | AMD CDNA 3 |
|---|---|
| Техпроцесс | TSMC 5 нм и 6 нм FinFET (чиплеты) |
| Вычислительные блоки | 304 |
| Потоковые процессоры | 19 456 |
| Матричные ядра | 1 216 |
| Пиковая частота | 2 100 МГц |
| Транзисторов | 153 млрд |
Память
| Объём и тип | 192 ГБ HBM3 |
|---|---|
| Шина / частота | 8 192 бит, 5,2 ГГц |
| Пропускная способность | 5,3 ТБ/с |
| Кэш последнего уровня (Infinity Cache) | 256 МБ |
| ECC | да, по всему кристаллу |
Производительность
| FP64 (векторные) | 81,7 ТФЛОПС |
|---|---|
| FP64 (матричные) | 163,4 ТФЛОПС |
| FP32 | 163,4 ТФЛОПС |
| TF32 (матричные) | 653,7 ТФЛОПС (1,3 ПФЛОПС с разреженностью) |
| FP16 / BF16 | 1,3 ПФЛОПС (2,61 с разреженностью) |
| FP8 | 2,61 ПФЛОПС (5,22 с разреженностью) |
| INT8 | 2,6 POPS (5,22 с разреженностью) |
Интерфейс и связь
| Хост-шина | PCIe 5.0 x16 |
|---|---|
| Infinity Fabric | 8 линков, до 128 ГБ/с каждый |
| Виртуализация | SR-IOV |
Питание
| Мощность (TBP) | 750 Вт пиковая |
|---|---|
| Подвод питания | 54 В через UBB |
Форм-фактор и охлаждение
| Форм-фактор | модуль OAM на универсальной базовой плате (UBB) |
|---|---|
| Охлаждение | пассивное (радиатор OAM, обдув сервера) |
ПО
| Программный стек | AMD ROCm |
|---|---|
| Надёжность | RAS, page retirement, page avoidance |
| Дата выпуска | 06.12.2023 |
По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.
Похожее оборудование
GIGABYTE RTX 5060 WINDFORCE OC
Видеокарта GeForce RTX 5060 (Blackwell) с 8 ГБ GDDR7 и компактным двухвентиляторным кулером WINDFORCE, заводской разгон.
- GPU
- GeForce RTX 5060, 3 840 CUDA-ядер
- Память
- 8 ГБ GDDR7, 128 бит, 448 ГБ/с
- ИИ
- 614 AI TOPS (FP4, разреж.)
- Шина
- PCIe 5.0 x8
- Питание
- 145 Вт, 1 × 8-pin
SAPPHIRE Radeon RX 9060 XT PULSE
Видеокарта Radeon RX 9060 XT (RDNA 4) с 16 ГБ GDDR6 и заводским разгоном в исполнении SAPPHIRE PULSE; поддерживается ROCm в Linux.
- GPU
- Radeon RX 9060 XT, 32 CU / 2 048 SP
- Память
- 16 ГБ GDDR6, 128 бит, 320 ГБ/с
- ИИ
- FP16: 103 ТФЛОПС (205 с разреж.)
- Шина
- PCIe 5.0 x16
- Питание
- 170 Вт, 1 × 8-pin, БП от 450 Вт
ASUS RTX 5060 Ti DUAL OC
Видеокарта GeForce RTX 5060 Ti с 16 ГБ GDDR7 в двухвентиляторном исполнении ASUS Dual с заводским разгоном.
- GPU
- GeForce RTX 5060 Ti, 4 608 CUDA-ядер
- Память
- 16 ГБ GDDR7, 128 бит, 448 ГБ/с
- ИИ
- 759 AI TOPS (FP4, разреж.)
- Шина
- PCIe 5.0 x8
- Питание
- 180 Вт, 1 × 8-pin, БП от 550 Вт
