Сервер Dell PowerEdge XE7740 и XE7745 с NVIDIA RTX Pro 6000 Blackwell

Сервер Dell PowerEdge XE7740 и XE7745 с NVIDIA RTX Pro 6000 Blackwell

Серверы Dell PowerEdge XE7740 и XE7745 специально созданы для ресурсоемких рабочих нагрузок искусственного интеллекта, графики и вычислений, особенно при оснащении графическими процессорами NVIDIA RTX Pro 6000 Blackwell Server Edition.

Вот краткий обзор их технических характеристик и предполагаемых задач:

Серверы Dell PowerEdge XE7740 и XE7745

Это серверы 4U для установки в стойку, предназначенные для высокопроизводительных вычислений (HPC) и корпоративного ИИ. Ключевое различие между XE7740 и XE7745 заключается в их процессорной архитектуре:

• Dell PowerEdge XE7740: оснащен двумя процессорами Intel® Xeon® серии 6 (до 96 ядер на процессор).
• Dell PowerEdge XE7745: оснащен двумя процессорами AMD EPYC 9005 5-го поколения (до 192 ядер на процессор).

Оба сервера имеют много других общих характеристик:

Основные технические характеристики (общие для XE7740 и XE7745):

• Ускорение графического процессора:
• Поддержка до 8 графических процессоров PCIe Gen 5 x16 двойной ширины (DW-FHFL) (до 600 Вт каждый).
• Альтернативно, поддержка до 16x PCIe Gen 5 x16 single-wide (SW-FHFL) GPU (до 75 Вт каждый). Такая гибкость позволяет оптимизировать плотность GPU вывода или мощные ускорители.
• Память:
• XE7740: 32 слота DDR5 DIMM, поддерживающие до 3 ТБ RDIMM со скоростью до 6400 МТ/с (будущие версии могут поддерживать 4 ТБ).
• XE7745: 24 слота DDR5 DIMM, поддерживающие до 2,3 ТБ RDIMM со скоростью до 6000 МТ/с (будущие версии могут поддерживать 3 ТБ со скоростью 6400 МТ/с).
• Хранилище:
• Передние отсеки: до 8 x EDSFF E3.S Gen5 NVMe (SSD) с максимальным объемом 122,88 ТБ.
• Внутренняя загрузка: оптимизированная для загрузки подсистема хранения данных (BOSS-N1 DC-MHS) с HWRAID 1, 2 твердотельных накопителя M.2 NVMe.
• Нетворкинг:
• 8 дополнительных слотов PCIe Gen 5.0 с возможностью обслуживания с передней стороны для высокопроизводительных внутренних сетевых интерфейсов кластера ИИ с малой задержкой.
• Интегрированный модуль Ethernet OCP NIC 3.0/3.1 для гибкой интеграции интерфейсной сети Ethernet.
• Охлаждение: корпус 4U с воздушным охлаждением и высокопроизводительными вентиляторами для оптимальной циркуляции воздуха и плотной конфигурации графических процессоров.
• Блоки питания: титановые резервные блоки питания мощностью 3200 Вт с возможностью горячей замены.
• Управление: iDRAC10 (iDRAC Direct, RESTful API с Redfish), портфель Dell OpenManage для комплексного управления и автоматизации системы.
• Безопасность: обнаружение вторжения в корпус, криптографически подписанная прошивка, безопасная загрузка, Silicon Root of Trust, TPM 2.0.
• Форм-фактор: стоечный сервер 4U.

Графический процессор NVIDIA RTX Pro 6000 Blackwell Server Edition

Серия NVIDIA RTX Pro 6000 Blackwell представляет собой значительный скачок в технологии GPU, основанный на архитектуре Blackwell. Server Edition специально разработана для сред центров обработки данных.

Основные технические характеристики RTX Pro 6000 Blackwell Server Edition:

• Архитектура: Архитектура NVIDIA Blackwell.
• Память графического процессора: 96 ГБ GDDR7 с кодом коррекции ошибок (ECC), предлагая вдвое большую емкость, чем предыдущее поколение Ada. Это обеспечивает значительно более высокую пропускную способность памяти (1792 ГБ/с).
• Потребляемая мощность: 400–600 Вт (серверная версия).
• Графическая шина: PCIe Gen 5 x16, обеспечивающая более быструю передачу данных.
• Охлаждение: Пассивное (предназначено для серверных сред).
• Ядра: оснащены ядрами Tensor следующего поколения для ускорения операций ИИ (производительность FP8, BF16, INT8), ядрами RT четвертого поколения для аппаратной трассировки лучей и новыми потоковыми мультипроцессорами с нейронными шейдерами.
• Масштабируемость: поддерживает NVLink Gen 5 для более быстрого обмена данными между несколькими графическими процессорами, что имеет решающее значение для параллелизма больших моделей.
• Многоэкземплярный графический процессор (MIG): каждый RTX Pro 6000 можно разделить на четыре полностью изолированных экземпляра (по 24 ГБ каждый) для одновременного выполнения рабочих нагрузок ИИ и графики.
• Безопасность: первый универсальный графический процессор, обеспечивающий безопасный ИИ с технологией NVIDIA Confidential Computing, защищающей модели ИИ и конфиденциальные данные.

Предполагаемые задачи и варианты использования Dell PowerEdge XE7740/XE7745 с RTX Pro 6000 Blackwell

Эти серверы, особенно в сочетании с графическими процессорами RTX Pro 6000 Blackwell Server Edition, предназначены для самых требовательных рабочих нагрузок ИИ, графики и обработки данных в корпоративных средах и центрах обработки данных. Их основные области применения включают:

1. Выводы ИИ: выполнение обученных моделей ИИ для прогнозов и аналитики в реальном времени в различных отраслях (например, компьютерное зрение, обработка естественного языка, рекомендательные системы). Высокая плотность графических процессоров и ускоренная производительность ИИ идеально подходят для масштабного развертывания ИИ.
2. Тонкая настройка модели ИИ: адаптация предварительно обученных моделей ИИ к определенным наборам данных и задачам. Обширная память и вычислительная мощность графических процессоров облегчают эффективную тонкую настройку больших языковых моделей (LLM) и других сложных моделей ИИ.
3. Приложения HPC (высокопроизводительные вычисления) на базе ИИ: ускорение научных симуляций, аналитики данных и сложных вычислительных задач, которые выигрывают от возможностей массивной параллельной обработки графических процессоров. Сюда входят такие области, как геномика, открытие лекарств, физическое симуляционное моделирование и финансовое моделирование.
4. Генеративный ИИ: поддержка создания нового контента, такого как изображения, видео, текст и 3D-активы. Достижения архитектуры Blackwell в тензорных ядрах специально разработаны для этих типов рабочих нагрузок.
5. Профессиональная визуализация и 3D-рендеринг: для таких отраслей, как медиа и развлечения, архитектура, проектирование и производство, эти серверы могут обрабатывать сложную 3D-рендеринг, разработку цифровых двойников и приложения виртуальной/дополненной реальности.
6. Наука о данных и аналитика: обработка и анализ больших наборов данных, что позволяет специалистам по данным быстрее получать информацию и принимать решения.
7. Агентский ИИ: внедрение сложных агентов ИИ, которые могут выполнять сложные задачи, взаимодействовать с окружающей средой и учиться на опыте.
8. Инфраструктура корпоративного ИИ: предоставление надежной и масштабируемой платформы для развертывания и управления широким спектром корпоративных приложений ИИ, обеспечивающей гибкость для развивающихся рабочих процессов ИИ.

По сути, серверы Dell PowerEdge XE7740 и XE7745 с графическими процессорами NVIDIA RTX Pro 6000 Blackwell созданы, чтобы стать основой современных предприятий, использующих искусственный интеллект, предлагая непревзойденную производительность, масштабируемость и эффективность для самых сложных вычислительных и графических нагрузок.

Получите доступ к официальным серверам DELL PowerEdge R760 в Украине.

Безкоштовная консультация по телефону +38 (067) 819 38 38

Доступные модели серверов на складе в Киеве:

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4510 2.4-4.1Ghz 12 ядер

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4514Y 2.0-3.4Ghz 16 Cores

Сервер Dell PowerEdge R760 — Intel Xeon Gold 6526Y 2,8–3,9 ГГц, 16 ядер

Сервер Dell PowerEdge R760 — Intel Xeon Gold 5420+ 2,0–4,1 ГГц, 28 ядер