
Серверы Dell PowerEdge XE9780 / XE9780L AI с Nvidia HGX B300
OLEKSANDR SYZOVДелиться
Серверы Dell PowerEdge XE9780 / XE9780L AI с Nvidia HGX B300.
Безкоштовная Профессиональная консультация по серверному обладанию.
Тел: +38 (067) 819-38-38 / E-mail: server@systemsolutions.com.ua
Конфигуратор Сервера DELL PowerEdge R760
Серверы Dell PowerEdge XE9780 и XE9780L (с жидкостным охлаждением) — это передовые серверы с искусственным интеллектом, разработанные совместно с NVIDIA для самых требовательных задач искусственного интеллекта, машинного обучения, глубокого обучения и высокопроизводительных вычислений (HPC). Они пришли на смену Dell XE9680 и представляют собой значительный шаг вперед в развитии инфраструктуры искусственного интеллекта.
Технические характеристики:
Серверы Dell PowerEdge XE9780 и XE9780L построены на платформе NVIDIA HGX B300 , разработанной для экстремальной производительности ИИ. Хотя точные характеристики могут различаться в зависимости от конфигурации и конкретной модификации B300 (например, B300 NVL16), ниже представлен общий обзор их технических характеристик:
Процессор:
- Два масштабируемых процессора Intel Xeon 6-го поколения, до 128 ядер на процессор.
Ускорение графического процессора:
- Восемь графических процессоров NVIDIA HGX B300 (Blackwell Ultra) , полностью соединенных между собой с помощью технологии NVIDIA NVLink. Это обеспечивает чрезвычайно высокую пропускную способность связи между графическими процессорами.
- Например, вариант HGX B300 NVL16 интегрирует 16 графических процессоров NVIDIA Blackwell Ultra, что подчеркивает количество вычислительных кристаллов, подключенных через NVLink.
- Память графического процессора: до 2,3 ТБ памяти HBM3e на систему (с B300 NVL16).
- Значительно более высокая производительность по сравнению с предыдущими поколениями для обучения и вывода ИИ. Dell заявляет о четырёхкратном ускорении обучения LLM с помощью 8-процессорной видеокарты NVIDIA HGX B300 по сравнению с предыдущей моделью (XE9680).
Память:
- 32 слота DDR5 DIMM , поддерживающие до 4 ТБ RDIMM.
- Скорость памяти до 6400 МТ/с благодаря масштабируемым процессорам Intel Xeon 6-го поколения
- Поддерживает только зарегистрированные модули памяти ECC DDR5 DIMM.
Хранилище:
- Поддержка передних отсеков:
- До 8 2,5-дюймовых твердотельных накопителей NVMe/SAS/SATA (макс. 122,88 ТБ).
- До 16 прямых накопителей E3.S NVMe (макс. 122,88 ТБ).
- Внутренние контроллеры (RAID): PERC H965i (не поддерживается Intel Gaudi3).
- Внутренняя загрузка: оптимизированная для загрузки подсистема хранения данных (NVMe BOSS-N1) с HWRAID 1, 2 твердотельных накопителя M.2.
- Программный RAID: S160.
Сетевое взаимодействие:
- Высокоплотные коммутаторы с малой задержкой, обеспечивающие пропускную способность до 800 гигабит в секунду (например, NVIDIA Quantum-X800 InfiniBand или Spectrum-X Ethernet).
- Платформа HGX B300 часто интегрирует 8 сетевых карт NVIDIA ConnectX-8 непосредственно в базовую плату для обеспечения скорости передачи данных между узлами 800 Гбит/с.
- Встроенная сетевая карта: 2 x 1 GbE.
- 1 x OCP 3.0 (x8 линий PCIe) для сетевых опций.
Охлаждение:
- XE9780: с воздушным охлаждением, предназначен для интеграции в существующие корпоративные центры обработки данных.
- XE9780L: жидкостное охлаждение (Direct Liquid Cooling — DLC), оптимизированное для стоечного масштабирования и энергоэффективности. В этих моделях используется технология охлаждения кристалла жидкостью для снижения тепловой нагрузки и оптимизации энергопотребления. Они способны работать с более высокой температурой воды (32–36 °C), что снижает зависимость от энергоёмких чиллеров.
Форм-фактор:
- Стоечный сервер 6U.
- Вес: до 114,05 кг (251,44 фунта).
Источники питания:
- Различные варианты, включая Titanium 3200 Вт (277 В переменного тока или 260–400 В постоянного тока) и Titanium 2800 Вт (200–240 В переменного тока или 240 В постоянного тока) с возможностью горячей замены.
Другие особенности:
- PCIe: до 10 слотов x16 Gen5 (x16 PCIe) полной высоты и половинной длины.
- Встроенное управление: iDRAC9, iDRAC Direct, iDRAC RESTful API с Redfish.
- Функции безопасности: криптографически подписанная прошивка, безопасная загрузка, TPM 2.0.
Предполагаемые задачи и рабочие нагрузки:
Серверы Dell PowerEdge XE9780 и XE9780L с графическим процессором NVIDIA HGX B300 специально разработаны для самых ресурсоемких вычислительных задач ИИ и HPC, что делает их идеальными для:
- Обучение и вывод генеративного ИИ:
- Обучение на основе больших языковых моделей (LLM): их огромная память GPU, высокая пропускная способность межсоединений (NVLink) и чистая вычислительная мощность имеют решающее значение для обучения чрезвычайно больших и сложных LLM.
- Крупномасштабный вывод ИИ: оптимизирован для вывода в реальном времени крупных моделей ИИ, что позволяет использовать такие приложения, как чат-боты, генерация контента и интеллектуальная автоматизация.
- Агентский ИИ: поддержка разработки и внедрения агентов ИИ для различных задач.
- Машинное обучение и глубокое обучение (ML/DL):
- Ускорение обучения и развертывания глубоких нейронных сетей в различных областях, включая компьютерное зрение, обработку естественного языка и рекомендательные системы.
- Обработка очень больших наборов данных, требующих значительного объема памяти графического процессора и вычислительной мощности.
- Высокопроизводительные вычисления (HPC):
- Сложные симуляции и моделирование в научных исследованиях, инжиниринге и финансах.
- Открытие лекарственных препаратов, моделирование климата и другие научные приложения, требующие больших объемов данных.
- Робототехника и цифровые двойники:
- Обеспечение работы сложных моделей искусственного интеллекта, необходимых для управления, восприятия и принятия решений в реальном времени в робототехнических системах.
- Возможность создания и моделирования высокодетализированных цифровых двойников для промышленных приложений, умных городов и т. д.
- Мультимодальные приложения ИИ:
- Разработка систем искусственного интеллекта, способных обрабатывать и понимать различные типы данных, например, объединять изображения, видео, текст и аудио.
Эти серверы являются ключевыми компонентами «AI Factory with NVIDIA» от Dell — комплексного решения, разработанного для упрощения и ускорения всего жизненного цикла ИИ для предприятий, от обучения до масштабного развертывания. Варианты «L» с жидкостным охлаждением особенно подходят для плотного размещения в стойках современных центров обработки данных, стремясь к максимальной вычислительной мощности при минимальном энергопотреблении.
Получите доступ к официальным серверам DELL PowerEdge R760 в Украине.
Безкоштовная консультация по телефону +38 (067) 819 38 38
Доступные модели серверов на складе в Киеве:
Сервер Dell PowerEdge R760 - Intel Xeon Silver 4510 2.4-4.1Ghz 12 Cores
Сервер Dell PowerEdge R760 - Intel Xeon Silver 4514Y 2.0-3.4Ghz 16 Cores
Сервер Dell PowerEdge R760 — Intel Xeon Gold 6526Y 2,8–3,9 ГГц, 16 ядер
Сервер Dell PowerEdge R760 — Intel Xeon Gold 5420+ 2,0–4,1 ГГц, 28 ядер