Серверы Dell PowerEdge XE9780 / XE9780L AI с Nvidia HGX B300

Серверы Dell PowerEdge XE9780 / XE9780L AI с Nvidia HGX B300.

Серверы Dell PowerEdge XE9780 и XE9780L (с жидкостным охлаждением) — это передовые серверы ИИ, разработанные в сотрудничестве с NVIDIA для обработки самых требовательных рабочих нагрузок ИИ, машинного обучения, глубокого обучения и высокопроизводительных вычислений (HPC). Они являются преемниками Dell XE9680 и представляют собой значительный скачок в инфраструктуре ИИ.

Технические характеристики:

Dell PowerEdge XE9780 и XE9780L построены на платформе NVIDIA HGX B300 , которая разработана для экстремальной производительности ИИ. Хотя точные характеристики могут различаться в зависимости от конфигурации и конкретного варианта B300 (например, B300 NVL16), вот общий обзор их технических характеристик:

Процессор:

• Два процессора Intel Xeon Scalable 6-го поколения, до 128 ядер на процессор.

Ускорение графического процессора:

• 8 NVIDIA HGX B300 (Blackwell Ultra GPUs) , полностью взаимосвязанных с технологией NVIDIA NVLink. Это обеспечивает чрезвычайно высокую пропускную способность связи между GPU.
• Например, вариант HGX B300 NVL16 объединяет 16 графических процессоров NVIDIA Blackwell Ultra, что подчеркивает количество вычислительных кристаллов, подключенных через NVLink.
• Память графического процессора: до 2,3 ТБ памяти HBM3e на систему (с B300 NVL16).
• Значительно более высокая производительность по сравнению с предыдущими поколениями для обучения и вывода ИИ. Dell заявляет о 4-кратном ускорении обучения LLM с 8-канальной NVIDIA HGX B300 по сравнению с предшественником (XE9680).

Память:

• 32 слота DDR5 DIMM , поддерживающие до 4 ТБ RDIMM.
• Скорость памяти до 6400 МТ/с с процессорами Intel Xeon Scalable 6-го поколения
• Поддерживает только зарегистрированные модули ECC DDR5 DIMM.

Хранилище:

• Поддержка передних отсеков:
• До 8 2,5-дюймовых твердотельных накопителей NVMe/SAS/SATA (макс. 122,88 ТБ).
• До 16 прямых накопителей E3.S NVMe (макс. 122,88 ТБ).
• Внутренние контроллеры (RAID): PERC H965i (не поддерживается Intel Gaudi3).
• Внутренняя загрузка: оптимизированная для загрузки подсистема хранения данных (NVMe BOSS-N1) с HWRAID 1, 2 твердотельных накопителя M.2.
• Программный RAID: S160.

Нетворкинг:

• Высокоплотные коммутаторы с малой задержкой, обеспечивающие пропускную способность до 800 гигабит в секунду (например, NVIDIA Quantum-X800 InfiniBand или Spectrum-X Ethernet).
• Платформа HGX B300 часто интегрирует 8 сетевых карт NVIDIA ConnectX-8 непосредственно в основную плату для обеспечения скорости передачи данных между узлами 800 Гбит/с.
• Встроенная сетевая карта: 2 x 1 GbE.
• 1 x OCP 3.0 (x8 линий PCIe) для сетевых опций.

Охлаждение:

• XE9780: с воздушным охлаждением, предназначен для интеграции в существующие корпоративные центры обработки данных.
• XE9780L: Жидкостное охлаждение (Direct Liquid Cooling - DLC), оптимизированное для стоечного масштабирования и энергоэффективности. Эти модели используют технологию охлаждения «жидкость-чип» для снижения тепловой нагрузки и оптимизации энергопотребления, способны работать с более высокой температурой воды (32°–36°C), чтобы снизить зависимость от энергоемких охладителей.

Форм-фактор:

• Стоечный сервер высотой 6U.
• Вес: до 114,05 кг (251,44 фунта).

Источники питания:

• Различные варианты, включая Titanium 3200 Вт (277 В переменного тока или 260–400 В постоянного тока) и Titanium 2800 Вт (200–240 В переменного тока или 240 В постоянного тока) с возможностью горячей замены.

Другие особенности:

• PCIe: до 10 слотов x16 Gen5 (x16 PCIe) полной высоты и половинной длины.
• Встроенное управление: iDRAC9, iDRAC Direct, iDRAC RESTful API с Redfish.
• Функции безопасности: криптографически подписанная прошивка, безопасная загрузка, TPM 2.0.

Предполагаемые задачи и рабочие нагрузки:

Серверы Dell PowerEdge XE9780 и XE9780L с NVIDIA HGX B300 специально созданы для самых ресурсоемких вычислительных нагрузок ИИ и HPC, что делает их идеальными для:

1. Обучение и выводы генеративного ИИ:
• Обучение на больших языковых моделях (LLM): их огромная память графического процессора, высокая пропускная способность межсоединений (NVLink) и чистая вычислительная мощность имеют решающее значение для обучения чрезвычайно больших и сложных LLM.
• Крупномасштабный вывод ИИ: оптимизирован для вывода в реальном времени крупных моделей ИИ, что позволяет использовать такие приложения, как чат-боты, генерацию контента и интеллектуальную автоматизацию.
• Агентский ИИ: поддержка разработки и внедрения агентов ИИ для различных задач.
2. Машинное обучение и глубокое обучение (ML/DL):
• Ускорение обучения и развертывания глубоких нейронных сетей в различных областях, включая компьютерное зрение, обработку естественного языка и рекомендательные системы.
• Обработка очень больших наборов данных, требующих значительного объема памяти графического процессора и вычислительной мощности.
3. Высокопроизводительные вычисления (HPC):
• Сложные симуляции и моделирование в научных исследованиях, инжиниринге и финансах.
• Открытие лекарственных препаратов, моделирование климата и другие научные приложения, требующие обработки большого объема данных.
4. Робототехника и цифровые двойники:
• Поддержка сложных моделей искусственного интеллекта, необходимых для управления, восприятия и принятия решений в реальном времени в робототехнических системах.
• Возможность создания и моделирования высокодетализированных цифровых двойников для промышленных приложений, умных городов и многого другого.
5. Мультимодальные приложения ИИ:
• Разработка систем искусственного интеллекта, способных обрабатывать и понимать различные типы данных, например, объединять изображения, видео, текст и аудио.

Эти серверы являются ключевыми компонентами «AI Factory with NVIDIA» от Dell, целостного решения, разработанного для упрощения и ускорения всего жизненного цикла ИИ для предприятий, от обучения до масштабного развертывания. Варианты «L» с жидкостным охлаждением особенно подходят для плотных стоечных развертываний в современных центрах обработки данных, нацеленных на максимальную вычислительную мощность с минимальным потреблением энергии.

Получите доступ к официальным серверам DELL PowerEdge R760 в Украине.

Безкоштовная консультация по телефону +38 (067) 819 38 38

Доступные модели серверов на складе в Киеве:

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4510 2.4-4.1Ghz 12 ядер

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4514Y 2.0-3.4Ghz 16 Cores

Сервер Dell PowerEdge R760 — Intel Xeon Gold 6526Y 2,8–3,9 ГГц, 16 ядер

Сервер Dell PowerEdge R760 — Intel Xeon Gold 5420+ 2,0–4,1 ГГц, 28 ядер