Сервер DELL PowerEdge XE9785 / 2xAMD EPYC 9755 / 8xNVIDIA HGX B300 NVL8 270GB

Форм-фактор и Процессоры:

• 5th Generation AMD EPYC 9005 Series процессоры с до 192 ядрами
• Dual-socket конфигурация
• До 384 ядер общее в системе

GPU Конфигурации (Основная Особенность)

AMD Instinct MI355X:

• 288GB HBM3E памяти на GPU
• До 8 TB/s memory bandwidth (некоторые источники указывают ~22.1 TB/s)
• Поддержка low-precision форматов (FP4, FP6) для generative AI

NVIDIA B300 Опция:

• Для XE9785 с B300 GPUs, слоты 3, 6, 9 и 12 могут использоваться
• 8x CX8 OSFP embedded networking (default для B300)

Intel Gaudi3 Опция:

• 8 PCIe Gen5 слотов с Intel Gaudi3

Память (RAM)

• 24 DDR5 DIMM слота
• До 3TB DDR5 ECC памяти
• High-speed DDR5 для AI workloads

Хранилище

• 16 × E3.S NVMe drives
• До 16 NVMe дисков, обеспечивающих быстрое локальное хранилище для data-intensive AI workloads
• Поддержка NVIDIA GPUDirect Storage

Охлаждение

Dual Cooling Options:

• Доступны как liquid-cooled, так и air-cooled конфигурации
• Liquid-cooled опции, такие как Dell PowerCool Enclosed Rear Door Heat Exchanger (eRDHx), захватывают 100% IT heat
• Air cooling емкость может достигать до 80 kW на стойку

Вентиляторы:

• 15 Standard grade GPU fans (все hot swap)
• 5 Standard grade CPU fans (все cold swap)

Блоки Питания

• 12 × 3200W Titanium 200-240 VAC, hot swap redundant
• Высокая мощность для поддержки multiple GPU

Сетевые Возможности

• Integrated с 200G/400G networking
• 1 × OCP 3.0 (Gen5 x8 PCIe lanes)
• Embedded OSFP для MI355X: N/A; для B300: 8x CX8 OSFP (default)

Порты

Front Ports:

• 1 × iDRAC Direct (USB C) port
• 2 × RJ45 dedicated iDRAC Ethernet ports
• 1 × USB A
• 1 × Mini-DisplayPort

Управление

• iDRAC10 Embedded / At-the-Server
• iDRAC Direct, iDRAC RESTful API with Redfish
• OpenManage Enterprise интеграция
• CloudIQ for PowerEdge plugin

Безопасность

• TPM 2.0 FIPS, CC-TCG certified
• Silicon Root of Trust, System Lockdown
• Cryptographically Signed Firmware, Chassis Intrusion Detection
• Secure Boot, Data at Rest Encryption

Основные Применения

Специально предназначен для: Large Language Model (LLM) Training и Fine-tuning, AI Inference, Generative AI Workloads, High-Performance Computing (HPC)

Ключевые Workloads:

• Large natural language processing models, recommendation engines, speech recognition models, conversational AI, chatbots

Программное Обеспечение

• Dell поддерживает AMD ROCm™ open-source software stack с enterprise-grade поддержкой для TensorFlow, PyTorch и других AI frameworks
• Seamless интеграция с container platforms как Docker и Kubernetes

Dell PowerEdge XE9785 — это флагманский AI-сервер, оптимизированный для самых требовательных AI и HPC workloads с поддержкой до 8× GPU (AMD MI355X, NVIDIA B300, или Intel Gaudi3) и advanced cooling solutions для экстремальной производительности.