Серверы Dell PowerEdge XE9785 / XE9785L AI с AMD Instinct MI350

Серверы Dell PowerEdge XE9785/XE9785L с ИИ-процессором AMD Instinct MI350

Безкоштовная Профессиональная консультация по серверному обладанию.

Тел: +38 (067) 819-38-38 / E-mail: server@systemsolutions.com.ua

Конфигуратор Сервера DELL PowerEdge R760

Серверы Dell PowerEdge XE9785 и XE9785L AI, оснащенные графическими процессорами AMD Instinct серии MI350, предназначены для ресурсоемких рабочих нагрузок искусственного интеллекта (ИИ) и высокопроизводительных вычислений (HPC).

Вот их технические характеристики и предполагаемые задачи:

Технические характеристики Dell PowerEdge XE9785 / XE9785L:

• Графические ускорители: будут поддерживать графические процессоры AMD Instinct серии MI350 . Основные характеристики MI350 включают:
• Память: 288 ГБ памяти HBM3E на каждый графический процессор. Это значительный объём памяти с высокой пропускной способностью, критически важный для крупных моделей ИИ.
• Пропускная способность памяти: до 8 ТБ/с (или, по оценкам некоторых источников, около 22,1 ТБ/с). Такая высокая пропускная способность обеспечивает быструю передачу данных между графическим процессором и графическим процессором, ускоряя сложные вычисления.
• Архитектура: построена на архитектуре AMD CDNA™ 4-го поколения (CDNA4) .
• Узел процесса: Ожидается, что он будет построен с использованием 3-нм техпроцесса .
• Производительность: AMD заявляет о 35-кратном росте производительности инференса по сравнению с платформой предыдущего поколения (MI300X). Она также поддерживает форматы вычислений с низкой точностью, такие как FP4 и FP6, которые критически важны для ускорения задач генеративного ИИ и инференса. Расчетная производительность FP16 составляет 3000–4000 терафлопс.
• Межсоединение: серверы оснащены 8-канальными межсоединениями AMD Infinity Fabric , обеспечивающими высокоскоростную связь между графическими процессорами на сервере.
• Совместимость: разработан для полной совместимости с существующими системами на базе серии AMD Instinct MI300, предлагая возможность модернизации.
• Процессоры: серверы работают на процессорах AMD EPYC™ серии 5 , которые обеспечивают мощные возможности хост-обработки в дополнение к графическим процессорам.
• Охлаждение: доступно как с жидкостным, так и с воздушным охлаждением . Варианты с жидкостным охлаждением, такие как Dell PowerCool Enclosed Rear Door Heat Exchanger (eRDHx), разработаны для работы с чрезвычайно плотными системами искусственного интеллекта и высокопроизводительных вычислений, обеспечивая 100% отвод тепла от ИТ-систем и потенциально значительное снижение затрат на охлаждение. Мощность воздушного охлаждения может достигать 80 кВт на стойку.
• Хранилище: они могут поддерживать до 16 накопителей NVMe , обеспечивая быстрое локальное хранилище для ресурсоемких рабочих нагрузок ИИ.
• Сетевые возможности: интегрированы с сетевыми возможностями 200G/400G , что необходимо для быстрого обучения моделей и передачи данных между узлами в крупных кластерах.
• Программный стек: Dell поддерживает программный стек с открытым исходным кодом AMD ROCm™ , который обеспечивает поддержку корпоративного уровня для популярных ИИ-фреймворков, таких как TensorFlow, PyTorch и других ведущих ИИ-фреймворков. Он также обеспечивает бесшовную интеграцию с контейнерными платформами, такими как Docker и Kubernetes.
• Масштабируемость: спроектированы как стоечные системы , обеспечивающие плотные развертывания вычислений.

Предполагаемые задачи и варианты использования:

Серверы Dell PowerEdge XE9785 и XE9785L с графическими процессорами AMD Instinct MI350 специально предназначены для:

• Обучение и тонкая настройка больших языковых моделей (LLM): огромный объем памяти (288 ГБ HBM3E на графический процессор) и высокая пропускная способность памяти графических процессоров MI350 делают эти серверы идеальными для обучения и тонкой настройки очень больших языковых моделей, которым требуются огромные вычислительные мощности и память для обработки огромного количества параметров.
• Вывод ИИ: Благодаря своей способности обеспечивать значительно более высокую производительность вывода эти серверы идеально подходят для развертывания обученных моделей ИИ для вывода выводов в реальном времени в различных приложениях — от генеративного ИИ до расширенной аналитики.
• Генеративные рабочие нагрузки ИИ: поддержка форматов вычислений с низкой точностью (FP4, FP6) напрямую ускоряет процессы генеративного ИИ.
• Высокопроизводительные вычисления (HPC): помимо искусственного интеллекта, мощные вычислительные возможности и высокоскоростная память также делают их превосходными для традиционных задач HPC, таких как научное моделирование, сложный анализ данных и передовые исследования.
• Рабочие нагрузки машинного обучения (МО): они предназначены для обработки ресурсоемких рабочих нагрузок МО, включая обучение сложных нейронных сетей и обработку больших наборов данных.
• Корпоративные развертывания ИИ: эти серверы позиционируются как основной компонент концепции «AI Factory» компании Dell, предоставляя предприятиям базовую инфраструктуру для управления всем жизненным циклом ИИ: от приема данных и обучения моделей до развертывания и управления агентами ИИ локально.
• Мультимодальные приложения ИИ: сочетание мощных графических процессоров и надежной программной поддержки делает их подходящими для моделей ИИ, обрабатывающих различные типы данных (например, текст, изображения, аудио).

По сути, эти серверы созданы для обеспечения передовой производительности и эффективности для организаций, стремящихся ускорить свои инициативы в области ИИ и высокопроизводительных вычислений, особенно те, которые связаны с большими и сложными моделями.

Получите доступ к официальным серверам DELL PowerEdge R760 в Украине.

Безкоштовная консультация по телефону +38 (067) 819 38 38

Доступные модели серверов на складе в Киеве:

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4510 2.4-4.1Ghz 12 Cores

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4514Y 2.0-3.4Ghz 16 Cores

Сервер Dell PowerEdge R760 — Intel Xeon Gold 6526Y 2,8–3,9 ГГц, 16 ядер

Сервер Dell PowerEdge R760 — Intel Xeon Gold 5420+ 2,0–4,1 ГГц, 28 ядер