Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.

Intel Gaudi 3 UBB, 8 ускорителей

Базовая плата Intel HLB-325 с 8 ускорителями Gaudi 3 (OAM, по 128 ГБ HBM2e) для интеграции в ИИ-сервер; 7,6 кВт.

Наличие: Под заказ
Срок поставки: по запросу
Цена: Цена по запросу

Ускорители: 8 × Intel Gaudi 3 HL-325L (OAM 2.0)
Память: 8 × 128 ГБ HBM2e (1 ТБ), 3,7 ТБ/с на ускоритель
Связь между ускорителями: all-to-all, 4,2 ТБ/с, без коммутатора
Масштабирование: 6 × OSFP800 (24 × 200GbE RoCE v2)
Хост: 8 × PCIe 5.0 x16
Питание: 7,6 кВт с 8 OAM, вход 54 В

Описание

Intel Gaudi 3 HLB-325 — универсальная базовая плата с восемью ускорителями Gaudi 3 HL-325L в модулях OAM 2.0 по 128 ГБ HBM2e: 3,7 ТБ/с на ускоритель и 1 024 ГБ на плату. Ускорители соединены по схеме all-to-all без коммутатора — 4,2 ТБ/с внутри платы; для масштабирования выведено 6 × OSFP800 (24 × 200GbE RoCE v2). Каждый Gaudi 3 содержит 8 матричных движков MME, 64 тензорных ядра TPC и 96 МБ SRAM.

Для каких задач: обучение и инференс моделей на PyTorch через Intel Gaudi Software Suite, серверы и кластеры с масштабированием по стандартному Ethernet.

Это компонент для интеграции в ИИ-сервер, а не готовая система: процессоры, память хоста, накопители, корпус и блоки питания не входят. Подсистема потребляет 7,6 кВт, питается от 54 В и подключается к хосту через 8 × PCIe 5.0 x16. Охлаждение — воздушное или жидкостное, по платформе.

Характеристики

Состав

Плата	Intel Gaudi 3 HLB-325 (универсальная базовая плата, по мотивам OCP)
Ускорители	8 × HL-325L, мезонинные модули OCP OAM 2.0
Интегрированная подсистема	HLFB-325L: HLB-325 + 8 × HL-325L, тестируются и поставляются вместе
Не входит	процессоры, память хоста, накопители, корпус и блоки питания сервера

Архитектура (на ускоритель)

Процесс	5 нм (TSMC)
Вычислительные блоки	8 матричных движков MME, 64 тензорных ядра TPC
SRAM на кристалле	96 МБ
Медиадвижки	14 декодеров
Типы данных	FP8, BF16, FP16, TF32, FP32

Память

На ускоритель	128 ГБ HBM2e (8 стеков), 3,7 ТБ/с
Всего на плате	1 024 ГБ HBM2e

Производительность (на ускоритель)

FP8 / BF16 (матричные, MME)	1 678 ТФЛОПС по техдокументу Intel; в анонсе 2024 г. — 1 835 ТФЛОПС
BF16 (векторные, TPC)	28,7 ТФЛОПС

Интерфейс и связь

Сеть ускорителя	24 × 200GbE RoCE v2 (48 линий SerDes 112G PAM4)
Внутри платы	21 × 200GbE с каждого ускорителя (по 3 к каждому из 7 других), all-to-all 4,2 ТБ/с
Масштабирование	3 × 200GbE с каждого ускорителя → 6 × OSFP800, 1,2 ТБ/с (двунаправленно)
Хост-интерфейс	8 × PCIe 5.0 x16 (по одному на ускоритель) через плату HIB
Ретаймеры	8 × PCIe, 3 × для сетевых линий

Питание и охлаждение

TDP подсистемы	7,6 кВт (включая 8 × HL-325L)
TDP ускорителя	до 900 Вт
Входное питание	54 В основное, 12 В дежурное
Охлаждение OAM	пассивное воздушное или жидкостное (по платформе)

Габариты

Плата	585 × 417 × 4,6 мм
Совместимость	серверы под стойку 19"

ПО

Программный стек	Intel Gaudi Software Suite: графовый компилятор, runtime, библиотека ядер TPC, драйверы и прошивки
Фреймворки	PyTorch
Инструменты	TPC Programming Toolkit, Intel Gaudi Profiler

По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.

Похожее оборудование

GIGABYTE RTX 5060 WINDFORCE OC
Видеокарта GeForce RTX 5060 (Blackwell) с 8 ГБ GDDR7 и компактным двухвентиляторным кулером WINDFORCE, заводской разгон.
GPU
GeForce RTX 5060, 3 840 CUDA-ядер
Память
8 ГБ GDDR7, 128 бит, 448 ГБ/с
ИИ
614 AI TOPS (FP4, разреж.)
Шина
PCIe 5.0 x8
Питание
145 Вт, 1 × 8-pin
Конфигурация под задачу
Цена по запросу
Подробнее
SAPPHIRE Radeon RX 9060 XT PULSE
Видеокарта Radeon RX 9060 XT (RDNA 4) с 16 ГБ GDDR6 и заводским разгоном в исполнении SAPPHIRE PULSE; поддерживается ROCm в Linux.
GPU
Radeon RX 9060 XT, 32 CU / 2 048 SP
Память
16 ГБ GDDR6, 128 бит, 320 ГБ/с
ИИ
FP16: 103 ТФЛОПС (205 с разреж.)
Шина
PCIe 5.0 x16
Питание
170 Вт, 1 × 8-pin, БП от 450 Вт
Конфигурация под задачу
Цена по запросу
Подробнее
ASUS RTX 5060 Ti DUAL OC
Видеокарта GeForce RTX 5060 Ti с 16 ГБ GDDR7 в двухвентиляторном исполнении ASUS Dual с заводским разгоном.
GPU
GeForce RTX 5060 Ti, 4 608 CUDA-ядер
Память
16 ГБ GDDR7, 128 бит, 448 ГБ/с
ИИ
759 AI TOPS (FP4, разреж.)
Шина
PCIe 5.0 x8
Питание
180 Вт, 1 × 8-pin, БП от 550 Вт
Конфигурация под задачу
Цена по запросу
Подробнее