Dell PowerEdge XE9780 / XE9780L AI Servers with Nvidia HGX B300

Dell PowerEdge XE9780 / XE9780L AI Servers с Nvidia HGX B300

OLEKSANDR SYZOV

Dell PowerEdge XE9780/XE9780L AI Servers с Nvidia HGX B300.

Бесплатная Профессиональная Консультация по серверному оборудованию.

Тел: +38 (067) 819-38-38 / E-mail: server@systemsolutions.com.ua

Конфигуратор сервера DELL PowerEdge R760

Dell PowerEdge XE9780 и XE9780L (liquid-cooled) серверы являются результирующими AI servers designed in collaboration with NVIDIA to handle the most demanding AI, machine learning, deep learning, and high-performance computing (HPC) workloads. Они являются successors к Dell's XE9680 и представляют собой значимый ущерб в AI infrastructure.

Technical Characteristics:

Dell PowerEdge XE9780 и XE9780L являются строительная сторона на NVIDIA HGX B300 платформа , которая является дизайном для чрезвычайных AI performance. While exact specifications can vary based on configuration and specific B300 variant (eg, B300 NVL16), here's general overview of their technical characteristics:

Processor:

  • Dual 6th Generation Intel Xeon Scalable processors with up to 128 cores per processor.

GPU Acceleration:

  • 8 NVIDIA HGX B300 (Blackwell Ultra GPU) , fully interconnected с NVIDIA NVLink технология. Это может быть для очень высокого уровня GPU-GPU коммуникации.
  • HGX B300 NVL16 вариант, для примера, integrates 16 NVIDIA Blackwell Ultra GPUs, стимулируя число компьютерных дней подключенных к NVLink.
  • GPU Memory: Вверх до 2.3TB HBM3e Memory System (с B300 NVL16).
  • Significantly higher performance than previous generations for AI training and inference. Dell claims вверх к 4x пространству LLM тренировка с 8-way NVIDIA HGX B300 compared к его predecessor (XE9680).

Memory:

  • 32 DDR5 DIMM slots , поддерживающие 4TB max RDIMM.
  • Воспользуйтесь 6400 MT/s 6th Gen Intel Xeon Scalable processors
  • Supports registered ECC DDR5 DIMMs только.

Storage:

  • Front bays support:
    • Up to 8 x 2.5-inch NVMe/SAS/SATA SSD drives (max 122.88 TB).
    • Up to 16 x E3.S NVMe direct drives (max 122.88 TB).
  • Internal Controllers (RAID): PERC H965i (не поддерживается с Intel Gaudi3).
  • Internal boot: Boot Optimized Storage Subsystem (NVMe BOSS-N1) с HWRAID 1, 2 x M.2 SSDs.
  • Software RAID: S160.

Networking:

  • High-density, low-latency switches delivering up to 800 gigabits per second of throughput (eg, NVIDIA Quantum-X800 InfiniBand или Spectrum-X Ethernet).
  • The HGX B300 platform often integrates 8 NVIDIA ConnectX-8 NICs прямо в базаре для 800 Gb/s node-to-node speeds.
  • Embedded NIC: 2 x 1 GbE.
  • 1 x OCP 3.0 (x8 PCIe lanes) для network options.

Cooling:

  • XE9780: Air-cooled, созданный для включения в существующие центры центров обслуживания.
  • XE9780L: Liquid-cooled (Direct Liquid Cooling - DLC), оптимизированный для скачка-разрыва разработки и энергоэффективности. Эти модели используют liquid-to-chip cooling technology to reduction thermal strain and optimized energy use, capable operating with warmer water temperatures (32°-36°C) to reduce reliance on energy-intensive chillers.

Form Factor:

  • 6U rack server.
  • Weight: Up to 114.05 kg (251.44 pounds).

Power Supplies:

  • Различные варианты, включая 3200W Titanium (277 VAC или 260-400 VDC) и 2800W Titanium (200-240 VAC или 240 VDC) горячий свербление.

Other Features:

  • PCIe: Вверх до 10 x16 Gen5 (x16 PCIe) полный, средний слой.
  • Embedded Management: iDRAC9, iDRAC Direct, iDRAC RESTful API with Redfish.
  • Security features: Cryptographically signed firmware, Secure Boot, TPM 2.0.

Intended Tasks and Workloads:

Dell PowerEdge XE9780 и XE9780L серверы с NVIDIA HGX B300 являются purpose-built для most compute-intensive AI і HPC workloads, making them ideal for:

  1. Generative AI Training and Inference:
    • Великий Language Model (LLM) тренировка: Такие массивные GPU памяти, высокий межконтактный лагерь (NVLink), и четкие компьютерные мощности являются строгой для тренировки чрезвычайно большой и комплексный LLMs.
    • Великое значение AI-inference: Оптимизирован для реального времени идентификация множественных AI-моделей, обеспечивающих applications как chatbots, content generation, и intelligent automation.
    • Агентские AI: Поддержка развития и разработки AI агентов для различных дел.
  2. Индивидуальная техническая подготовка (ML/DL):
    • Усовершенствование тренировок и разработки глубоких сетевых ресурсов через различные домашние, включая компьютерную позицию, натуральную мову, и recommendation systems.
    • Расширение чрезвычайно значительных данных, что требует significant GPU памяти и процессорной мощности.
  3. High-Performance Computing (HPC):
    • Комплексные simulations and modeling в средних исследованиях, engineering, and finance.
    • Drug discovery, climate modeling, и другие data-intensive scientific applications.
  4. Robotics and Digital Twins:
    • Применение софизических AI-моделей, необходимых для реального времени контроля, вынесения, и решения-производительности в robotic systems.
    • Настроить создание и simulation высоко detailed digital twins для industrial applications, smart cities, and more.
  5. Multi-Modal AI Applications:
    • Развитие AI систем, которые могут быть процессом и подчеркнутыми несколькими типами данных, такими как комбинированные изображения, видео, текст и видео.

Эти серверы являются key components of Dell's "AI Factory with NVIDIA," a holistic solution designed to simplify and accelerate the enti lifecycle for enterprises, from training to deployment at scale. Пухлые-cooled "L" варианты являются особенно оборудованными для внезапных ракетных разработок в современных данных центрах, анимация для максимальной интенсивной коммуникации с minimized energy footprint

Лучшие цены на официальные серверы DELL PowerEdge R760 в Украине.

Бесплатная консультация по телефону +38 (067) 819 38 38

Доступные модели серверов со склада в Киеве:

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4510 2.4-4.1Ghz 12 Cores

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4514Y 2.0-3.4Ghz 16 Cores

Сервер Dell PowerEdge R760 - Intel Xeon Gold 6526Y 2.8-3.9Ghz 16 Cores

Сервер Dell PowerEdge R760 - Intel Xeon Gold 5420+ 2.0-4.1Ghz 28 Cores

Вернуться к блогу