Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.
GIGABYTE G894-SG1-AAX1
8U-сервер на 2 × Intel Xeon 6700/6500 с восемью Intel Gaudi 3 (128 ГБ HBM2e) и сетью 6 × 800 Гбит/с RoCE.
- Наличие
- Под заказ
- Срок поставки
- по запросу
- Цена
- Цена по запросу
- Ускорители
- 8 × Intel Gaudi 3 OAM, 128 ГБ HBM2e каждый
- Процессоры
- 2 × Intel Xeon 6700/6500, TDP до 350 Вт
- Оперативная память
- 32 × DDR5 RDIMM/MRDIMM, до 8000 МТ/с
- Накопители
- 8 × 2,5" NVMe PCIe 5.0 + 2 × M.2
- Сеть ускорителей
- 6 × OSFP 800 Гбит/с (24 × 200GbE RoCE)
- Питание и корпус
- 5+5 × 3000 Вт Titanium, 8U
Описание
GIGABYTE G894-SG1-AAX1 — сервер 8U с восемью ускорителями Intel Gaudi 3 в формате OAM и двумя Intel Xeon 6 серий 6700/6500. У каждого Gaudi 3 128 ГБ HBM2e (3,7 ТБ/с), 96 МБ SRAM и 1 678 ТФЛОПС в FP8/BF16; на узел приходится 1 024 ГБ памяти ускорителей. Ускорители соединены по схеме «все со всеми» встроенными портами 200GbE RoCE.
Для каких задач: обучение и инференс моделей на PyTorch, DeepSpeed, Hugging Face и vLLM, кластеры на стандартном Ethernet без отдельных сетевых адаптеров.
Ускорители работают на Intel Gaudi Software: поддержка PyTorch не означает, что запустятся собственные CUDA-ядра, поэтому целевую модель стоит прогнать заранее. Для масштабирования выведены 6 портов OSFP 800 Гбит/с (24 × 200GbE). Питание — 5+5 блоков по 3000 Вт, охлаждение воздушное, рабочая температура 10–30 °C.
Характеристики
Процессоры
| Процессоры | 2 × Intel Xeon 6 серий 6700 или 6500 |
|---|---|
| Сокет | 2 × LGA 4710 (Socket E2) |
| Тепловой пакет | до 350 Вт на процессор |
Ускорители
| Ускорители | 8 × Intel Gaudi 3 HL-325L (OAM), базовая плата HLB-325 |
|---|---|
| Память | 128 ГБ HBM2e на ускоритель, 3,7 ТБ/с; 1 024 ГБ на узел |
| Кэш на кристалле | 96 МБ SRAM |
| Вычислительные блоки | 8 MME, 64 TPC на ускоритель |
| FP8 / BF16 (MME) | 1 678 ТФЛОПС на ускоритель |
| FP16 / TF32 (MME) | 459 ТФЛОПС на ускоритель |
| FP32 (MME) | 229 ТФЛОПС на ускоритель |
| Межсоединение в узле | все-со-всеми, 21 × 200GbE RoCE на ускоритель |
| Хост-интерфейс | PCIe 5.0 x16 на ускоритель |
| TDP ускорителя | до 900 Вт |
| Медиадекодеры | 14 на ускоритель (HEVC, H.264, VP9, JPEG) |
Оперативная память
| Слоты | 32 × DDR5 RDIMM/MRDIMM, 8 каналов на процессор |
|---|---|
| RDIMM | до 6400 МТ/с (1DPC), 6000 МТ/с (2DPC) |
| MRDIMM | до 8000 МТ/с (Xeon 6 с P-ядрами, 1DPC) |
Накопители
| Отсеки | 8 × 2,5" NVMe PCIe 5.0, горячая замена (спереди) |
|---|---|
| M.2 | 2 × M.2 2280/22110: PCIe 5.0 x4 и PCIe 5.0 x2 |
Сеть
| Масштабирование ускорителей | 6 × OSFP 800 Гбит/с (24 × 200GbE, RDMA RoCE v2), встроены в Gaudi 3 |
|---|---|
| LAN | 2 × 10GbE (Intel X710-AT2), поддержка NC-SI |
| Управление | 2 × 1GbE MLAN (спереди и сзади) |
Слоты расширения
| PCIe | 4 × FHHL PCIe 5.0 x16 (двухслотовые) + 8 × FHHL PCIe 5.0 x16 (однослотовые) |
|---|
Питание и охлаждение
| Блоки питания | 5+5 × 3000 Вт 80 PLUS Titanium |
|---|---|
| Вход | 115–240 В AC, кабели C19 |
| Охлаждение | воздушное; 16 вентиляторов 80 мм в GPU-отсеке |
| Рабочая температура | 10–30 °C, влажность 8–80 % |
Корпус
| Форм-фактор | 8U, стоечный |
|---|---|
| Ш × Г × В, мм | 447 × 923 × 351 |
| Материнская плата | GIGABYTE MSB4-PE0 |
| Передняя панель | 6 × OSFP, 2 × USB 3.2 Gen1, VGA, 2 × RJ45, MLAN |
| Комплект | радиаторы CPU, 4 салазки, рельсы |
Управление и ПО
| BMC | ASPEED AST2600, выделенный порт управления |
|---|---|
| TPM | разъём TPM (SPI), опциональный модуль TPM 2.0 |
| ПО ускорителей | Intel Gaudi Software: PyTorch, DeepSpeed, Hugging Face, vLLM |
По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.
Похожее оборудование
Tenstorrent Galaxy Blackhole
Сервер 6U с 32 ускорителями Tenstorrent Blackhole: 1 ТБ GDDR6, 23 ПФЛОПС Block FP8, открытый программный стек.
- Ускорители
- 32 × Blackhole, 1 ТБ GDDR6 суммарно
- Вычисления
- 23 ПФЛОПС Block FP8
- Процессор
- 1 × AMD EPYC 9004, до 32 ядер
- ОЗУ
- до 576 ГБ DDR5-4800 ECC
- Масштабирование
- до 56 × 800GbE QSFP-DD
NVIDIA DGX H200
NVIDIA DGX H200: 8 × H200 с NVLink, 1 128 ГБ HBM3e, 2 × Xeon Platinum 8480C, 2 ТБ ОЗУ, 8U.
- Ускорители
- 8 × H200, 141 ГБ HBM3e каждый
- Вычисления
- FP8: 32 ПФЛОПС (с разреженностью)
- Процессоры
- 2 × Xeon Platinum 8480C, 112 ядер
- ОЗУ
- 2 ТБ
- Сеть
- 8 × ConnectX-7, до 400 Гбит/с
Supermicro AS-8126GS-NB3RT
Сервер Supermicro 8U на NVIDIA HGX B300 (8 × 288 ГБ HBM3e) и двух AMD EPYC 9005/9004, 8 × 800GbE.
- Ускорители
- HGX B300: 8 × 288 ГБ HBM3e
- Процессоры
- 2 × AMD EPYC 9005/9004, до 384 ядер
- ОЗУ
- до 6 ТБ DDR5-6400, 24 DIMM
- Сеть
- 8 × OSFP 800GbE (ConnectX-8)
- Накопители
- 8 × E1.S NVMe + 2 × M.2 NVMe
