Фото — визуализация модели и типовой платформы. Внешний вид поставляемого экземпляра может отличаться.

Tenstorrent Galaxy Supercluster

Кластер из четырёх серверов Tenstorrent Galaxy Blackhole: 128 ASIC Blackhole, 4 ТБ GDDR6, Ethernet-интерконнект.

Наличие: Под заказ
Срок поставки: по запросу
Цена: Цена по запросу

Состав: 4 × Galaxy Blackhole (по 6U)
Ускорители: 128 × Blackhole (4 × 32)
Память ускорителей: 4 × 1 ТБ GDDR6 (16 ТБ/с на систему)
Вычисления: 4 × 23 ПФЛОПС Block FP8
Питание: 4 × 8–10 кВт в среднем, до 12 кВт макс.
Охлаждение: воздушное

Описание

Кластер из четырёх серверов Tenstorrent Galaxy Blackhole по 6U, всего 24U. В каждом сервере 32 ASIC Blackhole, 1 ТБ GDDR6 (16 ТБ/с) и 23 ПФЛОПС Block FP8, в кластере — 128 ускорителей и 4 ТБ памяти. Ускорители связаны Ethernet-фабрикой 400GbE, для выхода за пределы системы — до 56 портов 800GbE QSFP-DD.

Для каких задач: крупномасштабное обучение и распределённый инференс, исследовательские проекты на открытой архитектуре, альтернатива GPU-кластерам с Ethernet вместо проприетарного интерконнекта.

Кластер потребляет 32–40 кВт в среднем и до 48 кВт на пике, охлаждение воздушное. Работает на открытом стеке Tenstorrent (TT-Forge, TT-Metalium) под Ubuntu, масштабируется от 4 до 36 и более систем.

Характеристики

Состав

Конфигурация	4 сервера Tenstorrent Galaxy Blackhole
Масштабирование	конфигурации от 4 до 36 и более систем Galaxy
Форм-фактор системы	6U, стоечный, воздушное охлаждение

Ускорители

ASIC в системе	32 × Blackhole
ASIC в кластере	128 × Blackhole
Производительность системы	23 ПФЛОПС Block FP8
SRAM ускорителей (на систему)	6,2 ГБ, 2,9 ПБ/с
DRAM ускорителей (на систему)	1 ТБ GDDR6, 16 ТБ/с
DRAM ускорителей (кластер)	4 ТБ GDDR6

Процессоры

Хост-CPU (на систему)	1 × AMD EPYC 9004 (Zen 4), до 32 ядер, TDP до 280 Вт

Память

ОЗУ хоста (на систему)	до 576 ГБ DDR5-4800 ECC RDIMM (6 × 96 ГБ, свободных слотов нет)

Интерконнект

Фабрика ускорителей	10 × 400GbE на ASIC, 32 ТБ/с на систему
Межсистемное масштабирование	до 56 × 800GbE QSFP-DD на систему, 11,2 ТБ/с

Сеть

Сеть хоста	1 × OCP NIC 3.0 PCIe 5.0 x16 SFF (по умолчанию 2 × 200GbE)
Управление	1 × RJ45 1GbE, BMC

Накопители

Системные (на систему)	2 × 960 ГБ M.2 2280 NVMe PCIe 4.0 x4
Данные (на систему)	до 4 × E1.S NVMe PCIe 5.0 x4 (9,5/15 мм)

Питание и охлаждение

Потребление системы	8–10 кВт в среднем, 12 кВт макс. (настраивается до 14,5 кВт)
Потребление кластера	32–40 кВт в среднем, до 48 кВт макс.
Охлаждение	воздушное
Рабочая температура	10–35 °C

Габариты и вес

Ш × Г × В системы, мм	446,8 × 884,5 × 263,4
Вес системы	119 кг
Занимаемое место (кластер)	4 × 6U = 24U

ПО

ОС	Ubuntu 22.04
Стек	открытый стек Tenstorrent: компилятор TT-Forge (MLIR), TT-Metalium

По данным производителя. Точная конфигурация фиксируется в коммерческом предложении.

Похожее оборудование

Sugon scaleX40
Бескабельный суперузел Sugon scaleX40: 40 ИИ-ускорителей с одноуровневой коммутацией, >28 ПФЛОПС FP8, до 45 кВт на PoD.
Ускорители
40 шт., >5,62 ТБ HBM суммарно
Вычисления
>28 ПФЛОПС FP8 на PoD
Процессоры
10 × Hygon C86-4G/H (1 на узел)
Интерконнект
CLOS, 448 ГБ/с P2P между любыми картами
Питание
<45 кВт на PoD, блок питания 60 кВт
Конфигурация под задачу
Цена по запросу
Подробнее
AMD Helios / Instinct MI400
Стоечная платформа AMD Helios: 72 × Instinct MI455X, EPYC Venice, UALink over Ethernet, 31 ТБ HBM4, стойка OCP ORW.
Ускорители
72 × MI455X, 432 ГБ HBM4 каждый
Вычисления
FP4 2,9 ЭФЛОПС, FP8 1,4 ЭФЛОПС
Процессоры
AMD EPYC «Venice» (Zen 6)
Scale-up
UALink over Ethernet, 260 ТБ/с
Scale-out
Pensando Vulcano 800G, 43 ТБ/с
Конфигурация под задачу
Цена по запросу
Подробнее
NVIDIA GB200 NVL72
Стойка NVIDIA GB200 NVL72: 36 Grace + 72 Blackwell в едином домене NVLink 130 ТБ/с, 13,4 ТБ HBM3e, жидкостное охлаждение.
Ускорители
72 × Blackwell, 186 ГБ HBM3e каждый
Процессоры
36 × Grace (2 592 ядра Neoverse V2)
FP4
720 ПФЛОПС (1 440 с разреженностью)
NVLink
5-го поколения, 130 ТБ/с на стойку
Питание
≈120 кВт на стойку
Конфигурация под задачу
Цена по запросу
Подробнее