Сервер Supermicro 8U \ 2x Platinum 8462Y+ \ 32x 64GB DDR5 \ 2x 480GB NVMe M.2 \ 6x 1.9TB NVMe U.2 \ 8x GPU H200 141GB \ 8x IB (400Gb/s) and 400GbE + \ 4x 25Gbe SFP28 \ 2x 10Gbe RJ-45 GPU
Система обладает исключительной производительностью благодаря мощным процессорам, большому объему оперативной памяти и, самое главное, массиву из восьми топовых графических ускорителей.
Подробная спецификация:
- 1 х Платформа Supermicro 8U X13 HGX 8GPU (Rear 1/O),X13DEG-OAD,CSE-GP801T <SYS-821GE-TNHR>
- 1 x Вычислительный модуль HGX GPU Baseboard 8x H200 141GB <GPU-NVHGX-H200-8141>
- 2 х Процессор Intel Xeon Platinum 8462Y+ 32 ядра \ 64 потока, 2P 32C 2.8G 300W(32/2.6/270,24/3/270)60M BI
- 32 х Supermicro MEM-DR564MC-ER56 64GB DDR5 5600 ECC REG
- 2 х Накопитель Supermicro Micron 7450 PRO 480GB NVMe PCIe 4.0 M.2 22x80mm 3D TLC, 1DWPD
- 6 х Накопитель SSD 2.5″ NVMe PCIe4 1.9TB 1DWPD TLC D, 15mm
- 8 х Адаптер Supermicro AOC-CX766003N-SQ0 Standard NDR IB (400Gb/s) and 400GbE with 1 OSFP port
- 8 х Трансивер 400Gb/s Single-port OSFP 400Gb/s Multimode SR4 50m <TRX-MMA4Z00-NS400>
- 2 х Сетевая карта Supermicro AOC-S25GC-i2S-O 25 Gigabit Ethernet (25GbE) Два порта SFP28 <AOC-S25GC-i2S-O>
- 4 x Трансивер Supermicro 10\25GbE AOM-SFP28-25GBE-SR-1-MLN
- 1 x Supermicro DataCenter Management Package (per node license) SFT-DCMS-SINGLE
- 1 x Сетевая карта Supermicro AOC-STGS-I2T Ethernet Server Adapter X550 LP 10G Dual Port RJ45
- 1 x NIC Riser board(After Mid-Plane) for Delta-Next GPU Syst <AOM-DP801-PCIE-P>
- 1 x NIC adaptor board with PLX switch for Delta-Next GPU sys <AOM-DP801-SW-P>
- 1 x 2 MCIO x8 (LF/STR to STR),42Y/41Wcm,32AWG,RoHS <CBL-MCIO-1342LFM5B4-E>
- 1 x 2 MCIO x8 (LF/STR to STR),48B/44Wcm,32AWG,RoHS <CBL-MCIO-1348LFM5B3-E>
- 1 x MicroHi,(2×4 to 2×4),PH3.0,40CM,8A/pin,18AWG,RoHS <CBL-PWEX-1142-40>
- 2 x Supermicro SKT-1424L-001B-FXC CPU Carrier for 4thGen Intel Xeon Scalable Processors MCC <SKT-1424L-001B-FXC>GPU
Основные компоненты
- Платформа: Supermicro SYS-821GE-TNHR, 8U-шасси, специально разработанное для размещения большого количества GPU (8 штук).
- Центральный процессор (CPU): Два процессора Intel Xeon Platinum 8462Y+, каждый с 32 ядрами и 64 потоками. Это обеспечивает высокую производительность для управления задачами, подготовки данных и выполнения вычислений, не зависящих от GPU.
- Оперативная память (RAM): 32 модуля по 64 ГБ каждый (DDR5 5600), что в сумме составляет 2 ТБ. Такой объем позволяет работать с огромными наборами данных и сложными моделями, не прибегая к медленной подкачке на диск.
- Графические ускорители (GPU): 8 вычислительных модулей NVIDIA H200 с памятью 141 ГБ каждый. Это самая производительная часть системы. Она предназначена для параллельных вычислений, что критически важно для тренировки больших нейронных сетей, симуляций и других ресурсоемких задач.
- Хранение данных:
- Два SSD-накопителя Micron 7450 PRO по 480 ГБ. Они, вероятно, используются для операционной системы, программного обеспечения и временных файлов.
- Шесть SSD-накопителей ёмкостью 1.9 ТБ (2.5″ NVMe PCIe4). Эти диски предоставляют быстрый доступ к большим объемам данных для вычислений.
Сетевые возможности
- Высокоскоростная сеть: Восемь карт Infiniband (IB) с пропускной способностью 400 Гбит/с. Они используются для сверхбыстрого взаимодействия между вычислительными узлами (если их несколько) или для обмена данными с высокопроизводительными системами хранения. Это критически важно для масштабирования вычислений.
- Стандартная сеть:
- Две карты 25 Gigabit Ethernet (25GbE) каждая с двумя портами SFP28.
- Одна карта 10 Gigabit Ethernet (10GbE) с двумя портами RJ45. Эти интерфейсы обеспечивают стандартное подключение к корпоративной сети для управления, мониторинга и доступа к данным.
Управление и прочее
- Лицензия на управление: Supermicro DataCenter Management Package для удобного администрирования и мониторинга системы.
- Внутренние компоненты: Различные райзеры, кабели и трансиверы, которые обеспечивают правильную сборку и функционирование всех высокоскоростных компонентов, таких как GPU и сетевые карты.
Эта система представляет собой мощный вычислительный кластер в одном корпусе. Она создана для решения самых требовательных задач в области ИИ, HPC (High-Performance Computing) и научных вычислений, где скорость и параллельные вычисления имеют первостепенное значение.
Заказать подобный сервер или любую другую конфигурацию можно, обратившись к нам!
