Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.
AMD Instinct MI325X
AMD Instinct MI325X (CDNA 3): OAM-модуль с 256 ГБ HBM3E и 6 ТБ/с, 1 000 Вт; для 8-GPU серверов.
- Наличие
- Под заказ
- Срок поставки
- по запросу
- Цена
- Цена по запросу
- GPU
- AMD CDNA 3, 304 CU, 19 456 потоковых процессоров
- Память
- 256 ГБ HBM3E, 6 ТБ/с
- FP8
- 2,61 ПФЛОПС (5,22 с разреженностью)
- Интерфейс
- OAM, 8 × Infinity Fabric, PCIe 5.0 x16
- Питание
- 1 000 Вт (пиковое)
Описание
AMD Instinct MI325X — ускоритель на архитектуре CDNA 3 в виде модуля OAM: 304 вычислительных блока, 19 456 потоковых процессоров и 1 216 матричных ядер. Память — 256 ГБ HBM3E с пропускной способностью 6 ТБ/с плюс 256 МБ Infinity Cache. Производительность FP8 — 2,61 ПФЛОПС (5,22 с разреженностью), FP16/BF16 — 1,3 ПФЛОПС, FP64 на матричных ядрах — 163,4 ТФЛОПС.
Для каких задач: инференс больших языковых моделей, которым важен объём памяти на ускоритель, обучение и дообучение на ROCm, научные расчёты в FP64.
Модуль устанавливается в 8-GPU серверы на универсальной базовой плате (UBB) и связан с соседями восемью линками Infinity Fabric. Поставляется только ускоритель — сервер, процессоры, память и накопители не входят. Пиковая мощность — 1 000 Вт с питанием 54 В через UBB, охлаждение пассивное за счёт обдува сервера.
Характеристики
Архитектура
| Архитектура | AMD CDNA 3 |
|---|---|
| Техпроцесс | TSMC 5 нм и 6 нм FinFET (чиплеты) |
| Вычислительные блоки | 304 |
| Потоковые процессоры | 19 456 |
| Матричные ядра | 1 216 |
| Пиковая частота | 2 100 МГц |
| Транзисторов | 153 млрд |
Память
| Объём и тип | 256 ГБ HBM3E |
|---|---|
| Шина / частота | 8 192 бит, 6 ГГц |
| Пропускная способность | 6 ТБ/с |
| Кэш последнего уровня (Infinity Cache) | 256 МБ |
| ECC | да, по всему кристаллу |
Производительность
| FP64 (векторные) | 81,7 ТФЛОПС |
|---|---|
| FP64 (матричные) | 163,4 ТФЛОПС |
| FP32 | 163,4 ТФЛОПС |
| TF32 (матричные) | 653,7 ТФЛОПС (1,3 ПФЛОПС с разреженностью) |
| FP16 / BF16 | 1,3 ПФЛОПС (2,61 с разреженностью) |
| FP8 | 2,61 ПФЛОПС (5,22 с разреженностью) |
| INT8 | 2,6 POPS (5,22 с разреженностью) |
Интерфейс и связь
| Хост-шина | PCIe 5.0 x16 |
|---|---|
| Infinity Fabric | 8 линков, до 128 ГБ/с каждый |
| Виртуализация | SR-IOV |
Питание
| Мощность (TBP) | 1 000 Вт пиковая |
|---|---|
| Подвод питания | 54 В через UBB |
Форм-фактор и охлаждение
| Форм-фактор | модуль OAM на универсальной базовой плате (UBB) |
|---|---|
| Охлаждение | пассивное (радиатор OAM, обдув сервера) |
ПО
| Программный стек | AMD ROCm |
|---|---|
| Надёжность | RAS, page retirement, page avoidance |
| Дата выпуска | 10.10.2024 |
По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.
Похожее оборудование
GIGABYTE RTX 5060 WINDFORCE OC
Видеокарта GeForce RTX 5060 (Blackwell) с 8 ГБ GDDR7 и компактным двухвентиляторным кулером WINDFORCE, заводской разгон.
- GPU
- GeForce RTX 5060, 3 840 CUDA-ядер
- Память
- 8 ГБ GDDR7, 128 бит, 448 ГБ/с
- ИИ
- 614 AI TOPS (FP4, разреж.)
- Шина
- PCIe 5.0 x8
- Питание
- 145 Вт, 1 × 8-pin
SAPPHIRE Radeon RX 9060 XT PULSE
Видеокарта Radeon RX 9060 XT (RDNA 4) с 16 ГБ GDDR6 и заводским разгоном в исполнении SAPPHIRE PULSE; поддерживается ROCm в Linux.
- GPU
- Radeon RX 9060 XT, 32 CU / 2 048 SP
- Память
- 16 ГБ GDDR6, 128 бит, 320 ГБ/с
- ИИ
- FP16: 103 ТФЛОПС (205 с разреж.)
- Шина
- PCIe 5.0 x16
- Питание
- 170 Вт, 1 × 8-pin, БП от 450 Вт
ASUS RTX 5060 Ti DUAL OC
Видеокарта GeForce RTX 5060 Ti с 16 ГБ GDDR7 в двухвентиляторном исполнении ASUS Dual с заводским разгоном.
- GPU
- GeForce RTX 5060 Ti, 4 608 CUDA-ядер
- Память
- 16 ГБ GDDR7, 128 бит, 448 ГБ/с
- ИИ
- 759 AI TOPS (FP4, разреж.)
- Шина
- PCIe 5.0 x8
- Питание
- 180 Вт, 1 × 8-pin, БП от 550 Вт
