Обзор сервера DELL Poweredge XE9680L

Обзор сервера DELL Poweredge XE9680L

Dell PowerEdge XE9680L — это высокопроизводительный стоечный сервер с прямым жидкостным охлаждением, разработанный для самых требовательных рабочих нагрузок ИИ и высокопроизводительных вычислений (HPC). Это мощный сервер, оптимизированный для интенсивных вычислительных задач, особенно тех, которые включают большие языковые модели (LLM) и крупномасштабный вывод ИИ.

Вот краткий обзор его технических характеристик и предполагаемых задач:

Технические характеристики:

• Процессоры: два процессора Intel Xeon Scalable 5-го поколения, до 64 ядер на процессор. Они предлагают улучшенную производительность памяти и более быстрый ввод-вывод с PCIe Gen 5.
• Ускорители (GPU):
• Поддерживает 8 графических процессоров NVIDIA HGX H200 141 ГБ 700 Вт SXM5, полностью соединенных с помощью технологии NVIDIA NVLink.
• Также может поддерживать 8 графических процессоров NVIDIA HGX B200 180 ГБ 1000 Вт SXM6 с технологией NVLink.
• Другие варианты включают 8 ускорителей AMD Instinct MI300X 192 ГБ 750 Вт OAM с возможностью подключения AMD Infinity Fabric или 8 ускорителей Intel Gaudi3 128 ГБ 900 Вт OAM со встроенными портами RoCE.
• Буква «L» в названии XE9680L указывает на акцент на более высокую плотность графических процессоров в форм-факторе 4U, что обеспечивает на 33% большую плотность графических процессоров на узел по сравнению с XE9680.
• Охлаждение: усовершенствованная система прямого жидкостного охлаждения (DLC) как для центральных, так и для графических процессоров, повышающая общую эффективность и управление температурой для высокомощных компонентов.
• Память:
• 32 слота DDR5 DIMM.
• Поддерживает RDIMM (регистровый DIMM) с максимальным объемом ОЗУ 4 ТБ.
• Скорость DIMM достигает 5600 МТ/с с процессорами Intel Xeon Scalable 5-го поколения при 1 DPC (DIMM на канал) или 4400 МТ/с при 2 DPC.
• Хранилище:
• Передние отсеки: до 8 2,5-дюймовых твердотельных накопителей NVMe/SAS/SATA (макс. 122,88 ТБ) или до 16 прямых накопителей E3.S NVMe (макс. 122,88 ТБ).
• Внутренняя загрузка: оптимизированная для загрузки подсистема хранения данных (NVMe BOSS-N1) с HWRAID для 2 твердотельных накопителей M.2.
• Источники питания:
• 2800 Вт Titanium 200-240 В переменного тока или 240 В постоянного тока, резервный с возможностью горячей замены.
• Для графических процессоров NVIDIA B200 могут использоваться блоки питания переменного тока Titanium мощностью 6 x 3000 Вт с поддержкой политик резервирования 3+3 FTR и 5+1.
• Вентиляторы: несколько высокопроизводительных (HPR) вентиляторов золотого класса для дополнительного охлаждения, особенно в средней и задней частях.
• Порты:
• Сетевые возможности: 1 x OCP 3.0 (x8 линий PCIe), опционально 2 x 1GbE LOM.
• Передние порты: 1 x iDRAC Direct (Micro-AB USB), 1 x USB 2.0, 1 x VGA.
• Задние порты: 1 x USB 2.0, 1 x USB 3.0, 1 x VGA, 1 x порт RJ45 iDRAC9 Ethernet.
• Расширение PCIe: 12 слотов PCIe 5.0 полной высоты и половинной длины, обеспечивающие значительные возможности расширения для сетевого ввода-вывода и других периферийных устройств.
• Размеры (приблизительные):
• Высота: 174,3 мм (6,86")
• Ширина: Верхний 2U: 447 мм (17,59"), Нижний 2U: 434 мм (17,08")
• Глубина: 1037,57 мм (40,82") с рамкой, 1025,62 мм (40,37") без рамки
• Вес: до 91,63 кг (202,00 фунта)

Предполагаемые задачи и варианты использования:

Dell PowerEdge XE9680L специально создан для самых ресурсоемких и ресурсоемких рабочих нагрузок, особенно в сфере искусственного интеллекта и высокопроизводительных вычислений:

• Обучение ИИ/машинному обучению (МО): основное внимание уделяется обучению больших и сложных моделей ИИ, включая:
• Большие языковые модели (LLM): идеально подходят для разработки и обучения базовых LLM, требуя огромной мощности графического процессора и высокоскоростных соединений.
• Модели глубокого обучения: ускоряют обучение различных архитектур глубокого обучения для таких задач, как классификация изображений, обнаружение объектов, сегментация медицинских изображений, преобразование речи в текст и обработка естественного языка.
• Логический вывод на основе ИИ: возможность выполнения крупномасштабного логического вывода на основе ИИ, при котором обученные модели используются для составления прогнозов или принятия решений на основе новых данных.
• Высокопроизводительные вычисления (HPC): подходят для приложений HPC, требующих больших возможностей параллельной обработки, таких как научное моделирование, анализ данных и вычислительная гидродинамика.
• Генеративный ИИ: мощный графический процессор и возможности межсоединений делают его отличным выбором для разработки и развертывания решений генеративного ИИ.
• Плотные развертывания с ускорением на базе GPU: разработаны для сред, где решающее значение имеет максимальная плотность размещения GPU на стойку, предлагая лучшую в отрасли плотность размещения GPU NVIDIA в стойке x86.
• Задачи с обработкой больших объемов данных: сочетание мощных процессоров, большого объема памяти, быстрого хранилища и высокоскоростных соединений позволяет эффективно справляться с задачами с обработкой больших объемов данных.

По сути, PowerEdge XE9680L — это ответ Dell на растущие вычислительные требования современных систем искусственного интеллекта и высокопроизводительных вычислений, представляющий собой высокоплотную платформу с жидкостным охлаждением, способную ускорить инновации и обеспечить оптимальную производительность для передовых исследовательских и корпоративных приложений.

Получите доступ к официальным серверам DELL PowerEdge R760 в Украине.

Безкоштовная консультация по телефону +38 (067) 819 38 38

Доступные модели серверов на складе в Киеве:

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4510 2.4-4.1Ghz 12 ядер

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4514Y 2.0-3.4Ghz 16 Cores

Сервер Dell PowerEdge R760 — Intel Xeon Gold 6526Y 2,8–3,9 ГГц, 16 ядер

Сервер Dell PowerEdge R760 — Intel Xeon Gold 5420+ 2,0–4,1 ГГц, 28 ядер