Dell PowerEdge XE9780 / XE9780L AI Servers with Nvidia HGX B300

Серверы Dell PowerEdge XE9780 / XE9780L AI с Nvidia HGX B300

OLEKSANDR SYZOV

Серверы Dell PowerEdge XE9780 / XE9780L AI с Nvidia HGX B300.

Безкоштовная Профессиональная консультация по серверному обладанию.

Тел: +38 (067) 819-38-38 / E-mail: server@systemsolutions.com.ua

Конфигуратор Сервера DELL PowerEdge R760

Серверы Dell PowerEdge XE9780 и XE9780L (с жидкостным охлаждением) — это передовые серверы с искусственным интеллектом, разработанные совместно с NVIDIA для самых требовательных задач искусственного интеллекта, машинного обучения, глубокого обучения и высокопроизводительных вычислений (HPC). Они пришли на смену Dell XE9680 и представляют собой значительный шаг вперед в развитии инфраструктуры искусственного интеллекта.

Технические характеристики:

Серверы Dell PowerEdge XE9780 и XE9780L построены на платформе NVIDIA HGX B300 , разработанной для экстремальной производительности ИИ. Хотя точные характеристики могут различаться в зависимости от конфигурации и конкретной модификации B300 (например, B300 NVL16), ниже представлен общий обзор их технических характеристик:

Процессор:

  • Два масштабируемых процессора Intel Xeon 6-го поколения, до 128 ядер на процессор.

Ускорение графического процессора:

  • Восемь графических процессоров NVIDIA HGX B300 (Blackwell Ultra) , полностью соединенных между собой с помощью технологии NVIDIA NVLink. Это обеспечивает чрезвычайно высокую пропускную способность связи между графическими процессорами.
  • Например, вариант HGX B300 NVL16 интегрирует 16 графических процессоров NVIDIA Blackwell Ultra, что подчеркивает количество вычислительных кристаллов, подключенных через NVLink.
  • Память графического процессора: до 2,3 ТБ памяти HBM3e на систему (с B300 NVL16).
  • Значительно более высокая производительность по сравнению с предыдущими поколениями для обучения и вывода ИИ. Dell заявляет о четырёхкратном ускорении обучения LLM с помощью 8-процессорной видеокарты NVIDIA HGX B300 по сравнению с предыдущей моделью (XE9680).

Память:

  • 32 слота DDR5 DIMM , поддерживающие до 4 ТБ RDIMM.
  • Скорость памяти до 6400 МТ/с благодаря масштабируемым процессорам Intel Xeon 6-го поколения
  • Поддерживает только зарегистрированные модули памяти ECC DDR5 DIMM.

Хранилище:

  • Поддержка передних отсеков:
    • До 8 2,5-дюймовых твердотельных накопителей NVMe/SAS/SATA (макс. 122,88 ТБ).
    • До 16 прямых накопителей E3.S NVMe (макс. 122,88 ТБ).
  • Внутренние контроллеры (RAID): PERC H965i (не поддерживается Intel Gaudi3).
  • Внутренняя загрузка: оптимизированная для загрузки подсистема хранения данных (NVMe BOSS-N1) с HWRAID 1, 2 твердотельных накопителя M.2.
  • Программный RAID: S160.

Сетевое взаимодействие:

  • Высокоплотные коммутаторы с малой задержкой, обеспечивающие пропускную способность до 800 гигабит в секунду (например, NVIDIA Quantum-X800 InfiniBand или Spectrum-X Ethernet).
  • Платформа HGX B300 часто интегрирует 8 сетевых карт NVIDIA ConnectX-8 непосредственно в базовую плату для обеспечения скорости передачи данных между узлами 800 Гбит/с.
  • Встроенная сетевая карта: 2 x 1 GbE.
  • 1 x OCP 3.0 (x8 линий PCIe) для сетевых опций.

Охлаждение:

  • XE9780: с воздушным охлаждением, предназначен для интеграции в существующие корпоративные центры обработки данных.
  • XE9780L: жидкостное охлаждение (Direct Liquid Cooling — DLC), оптимизированное для стоечного масштабирования и энергоэффективности. В этих моделях используется технология охлаждения кристалла жидкостью для снижения тепловой нагрузки и оптимизации энергопотребления. Они способны работать с более высокой температурой воды (32–36 °C), что снижает зависимость от энергоёмких чиллеров.

Форм-фактор:

  • Стоечный сервер 6U.
  • Вес: до 114,05 кг (251,44 фунта).

Источники питания:

  • Различные варианты, включая Titanium 3200 Вт (277 В переменного тока или 260–400 В постоянного тока) и Titanium 2800 Вт (200–240 В переменного тока или 240 В постоянного тока) с возможностью горячей замены.

Другие особенности:

  • PCIe: до 10 слотов x16 Gen5 (x16 PCIe) полной высоты и половинной длины.
  • Встроенное управление: iDRAC9, iDRAC Direct, iDRAC RESTful API с Redfish.
  • Функции безопасности: криптографически подписанная прошивка, безопасная загрузка, TPM 2.0.

Предполагаемые задачи и рабочие нагрузки:

Серверы Dell PowerEdge XE9780 и XE9780L с графическим процессором NVIDIA HGX B300 специально разработаны для самых ресурсоемких вычислительных задач ИИ и HPC, что делает их идеальными для:

  1. Обучение и вывод генеративного ИИ:
    • Обучение на основе больших языковых моделей (LLM): их огромная память GPU, высокая пропускная способность межсоединений (NVLink) и чистая вычислительная мощность имеют решающее значение для обучения чрезвычайно больших и сложных LLM.
    • Крупномасштабный вывод ИИ: оптимизирован для вывода в реальном времени крупных моделей ИИ, что позволяет использовать такие приложения, как чат-боты, генерация контента и интеллектуальная автоматизация.
    • Агентский ИИ: поддержка разработки и внедрения агентов ИИ для различных задач.
  2. Машинное обучение и глубокое обучение (ML/DL):
    • Ускорение обучения и развертывания глубоких нейронных сетей в различных областях, включая компьютерное зрение, обработку естественного языка и рекомендательные системы.
    • Обработка очень больших наборов данных, требующих значительного объема памяти графического процессора и вычислительной мощности.
  3. Высокопроизводительные вычисления (HPC):
    • Сложные симуляции и моделирование в научных исследованиях, инжиниринге и финансах.
    • Открытие лекарственных препаратов, моделирование климата и другие научные приложения, требующие больших объемов данных.
  4. Робототехника и цифровые двойники:
    • Обеспечение работы сложных моделей искусственного интеллекта, необходимых для управления, восприятия и принятия решений в реальном времени в робототехнических системах.
    • Возможность создания и моделирования высокодетализированных цифровых двойников для промышленных приложений, умных городов и т. д.
  5. Мультимодальные приложения ИИ:
    • Разработка систем искусственного интеллекта, способных обрабатывать и понимать различные типы данных, например, объединять изображения, видео, текст и аудио.

Эти серверы являются ключевыми компонентами «AI Factory with NVIDIA» от Dell — комплексного решения, разработанного для упрощения и ускорения всего жизненного цикла ИИ для предприятий, от обучения до масштабного развертывания. Варианты «L» с жидкостным охлаждением особенно подходят для плотного размещения в стойках современных центров обработки данных, стремясь к максимальной вычислительной мощности при минимальном энергопотреблении.

Получите доступ к официальным серверам DELL PowerEdge R760 в Украине.

Безкоштовная консультация по телефону +38 (067) 819 38 38

Доступные модели серверов на складе в Киеве:

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4510 2.4-4.1Ghz 12 Cores

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4514Y 2.0-3.4Ghz 16 Cores

Сервер Dell PowerEdge R760 — Intel Xeon Gold 6526Y 2,8–3,9 ГГц, 16 ядер

Сервер Dell PowerEdge R760 — Intel Xeon Gold 5420+ 2,0–4,1 ГГц, 28 ядер

Вернуться к блогу