Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.
Huawei CloudMatrix 384
Суперузел Huawei CloudMatrix384: 384 NPU Ascend 910C и 192 CPU Kunpeng в одной сети Unified Bus, 16 шкафов.
- Наличие
- Под заказ
- Срок поставки
- по запросу
- Цена
- Цена по запросу
- Ускорители
- 384 × Ascend 910C
- Процессоры
- 192 × Kunpeng
- Узлы
- 48 узлов: 8 NPU + 4 CPU в каждом
- Интерконнект
- Unified Bus, неблокирующий all-to-all
- Вычисления
- до 300 ПФЛОПС (данные Huawei)
- Шкафы
- 16: 12 вычислительных + 4 коммутационных
Описание
Суперузел Huawei CloudMatrix 384 объединяет 384 NPU Ascend 910C и 192 CPU Kunpeng в 48 узлах. Все процессоры связаны неблокирующей all-to-all сетью Unified Bus, NPU обращаются к памяти CPU всех узлов через глобальную адресацию. Производительность — до 300 ПФЛОПС по данным Huawei, система занимает 16 шкафов: 12 вычислительных и 4 коммутационных.
Для каких задач: крупномасштабное обучение и распределённый инференс, дезагрегированный инференс с разделением prefill и decode, ИИ-инфраструктура на стеке, независимом от NVIDIA.
Программный стек — Huawei CANN, модели нужно заранее адаптировать под Ascend. Аппаратная база — Atlas 900 A3 SuperPoD; поставка требует проекта, проработки совместимости ПО и сервисного контракта.
Характеристики
Состав
| Тип | суперузел (SuperPoD); аппаратная база — Atlas 900 A3 SuperPoD, сервис Huawei Cloud CloudMatrix384 |
|---|---|
| Вычислительные узлы | 48 узлов, в каждом 8 NPU Ascend, 4 CPU Kunpeng, 7 чипов коммутатора UB |
| Шкафы | 16: 12 вычислительных + 4 коммутационных (коммутаторы UB 2-го уровня) |
Ускорители
| NPU | 384 × Huawei Ascend 910C |
|---|---|
| Архитектура NPU | два кристалла в корпусе, 8 стеков HBM на корпусе |
| Ядра на кристалл | 24 AI Cube + 48 AI Vector |
| Форматы данных | FP16, BF16, INT8 |
| Производительность суперузла | до 300 ПФЛОПС |
Процессоры
| CPU | 192 × Huawei Kunpeng |
|---|---|
| На узел | 4 сокета Kunpeng, полносвязная NUMA-топология |
Память
| Пул памяти | глобальная адресация: NPU обращаются к DRAM CPU всех узлов через UB |
|---|
Интерконнект
| UB-плоскость (scale-up) | Unified Bus, неблокирующая all-to-all топология для всех 384 NPU и 192 CPU |
|---|---|
| Межузловые потери | снижение полосы <3 %, рост задержки <1 мкс |
| Коммутация L2 | 7 подплоскостей по 16 чипов коммутатора UB, 48 портов на чип |
| Подключение NPU | 7 высокоскоростных трансиверов UB на кристалл |
Сеть
| RDMA-плоскость (scale-out) | RoCE, только NPU; связь между суперузлами |
|---|---|
| VPC-плоскость | DPU Huawei Qingtian, Ethernet/IP, опционально UBoE |
ПО
| Программный стек | Huawei CANN; CloudMatrix-Infer (дезагрегированный инференс prefill/decode) |
|---|
По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.
Похожее оборудование
Tenstorrent Galaxy Supercluster
Кластер из четырёх серверов Tenstorrent Galaxy Blackhole: 128 ASIC Blackhole, 4 ТБ GDDR6, Ethernet-интерконнект.
- Состав
- 4 × Galaxy Blackhole (по 6U)
- Ускорители
- 128 × Blackhole (4 × 32)
- Память ускорителей
- 4 × 1 ТБ GDDR6 (16 ТБ/с на систему)
- Вычисления
- 4 × 23 ПФЛОПС Block FP8
- Питание
- 4 × 8–10 кВт в среднем, до 12 кВт макс.
Sugon scaleX40
Бескабельный суперузел Sugon scaleX40: 40 ИИ-ускорителей с одноуровневой коммутацией, >28 ПФЛОПС FP8, до 45 кВт на PoD.
- Ускорители
- 40 шт., >5,62 ТБ HBM суммарно
- Вычисления
- >28 ПФЛОПС FP8 на PoD
- Процессоры
- 10 × Hygon C86-4G/H (1 на узел)
- Интерконнект
- CLOS, 448 ГБ/с P2P между любыми картами
- Питание
- <45 кВт на PoD, блок питания 60 кВт
AMD Helios / Instinct MI400
Стоечная платформа AMD Helios: 72 × Instinct MI455X, EPYC Venice, UALink over Ethernet, 31 ТБ HBM4, стойка OCP ORW.
- Ускорители
- 72 × MI455X, 432 ГБ HBM4 каждый
- Вычисления
- FP4 2,9 ЭФЛОПС, FP8 1,4 ЭФЛОПС
- Процессоры
- AMD EPYC «Venice» (Zen 6)
- Scale-up
- UALink over Ethernet, 260 ТБ/с
- Scale-out
- Pensando Vulcano 800G, 43 ТБ/с
