Сервери Dell PowerEdge XE9780 / XE9780L зі штучним інтелектом та Nvidia HGX B300

Сервери Dell PowerEdge XE9780 / XE9780L зі штучним інтелектом та Nvidia HGX B300.

Сервери Dell PowerEdge XE9780 та XE9780L (з рідинним охолодженням) – це передові сервери зі штучним інтелектом, розроблені у співпраці з NVIDIA для обробки найвимогливіших робочих навантажень, пов’язаних зі штучним інтелектом, машинним навчанням, глибоким навчанням та високопродуктивними обчисленнями (HPC). Вони є наступниками Dell XE9680 та представляють собою значний крок в інфраструктурі штучного інтелекту.

Технічні характеристики:

Dell PowerEdge XE9780 та XE9780L побудовані на платформі NVIDIA HGX B300 , яка розроблена для надзвичайної продуктивності штучного інтелекту. Хоча точні характеристики можуть відрізнятися залежно від конфігурації та конкретного варіанту B300 (наприклад, B300 NVL16), ось загальний огляд їхніх технічних характеристик:

Процесор:

• Два масштабовані процесори Intel Xeon 6-го покоління з кількістю ядер до 128 на процесор.

Прискорення графічного процесора:

• 8 відеокарт NVIDIA HGX B300 (графічні процесори Blackwell Ultra) , повністю з'єднаних між собою за допомогою технології NVIDIA NVLink. Це забезпечує надзвичайно високошвидкісний зв'язок між відеокартами.
• Наприклад, варіант HGX B300 NVL16 інтегрує 16 графічних процесорів NVIDIA Blackwell Ultra, що підкреслює кількість обчислювальних кристалів, підключених через NVLink.
• Пам'ять графічного процесора: до 2,3 ТБ пам'яті HBM3e на систему (з B300 NVL16).
• Значно вища продуктивність, ніж у попередніх поколінь, для навчання та логічного висновку ШІ. Dell стверджує, що навчання LLM з 8-процесорною відеокартою NVIDIA HGX B300 до 4 разів швидше, ніж його попередник (XE9680).

Пам'ять:

• 32 слоти DDR5 DIMM , підтримка RDIMM максимальним об'ємом до 4 ТБ.
• Швидкість пам'яті до 6400 МТ/с з процесорами Intel Xeon Scalable 6-го покоління
• Підтримує лише зареєстровані модулі DIMM ECC DDR5.

Зберігання:

• Підтримка передніх відсіків:
• До 8 2,5-дюймових твердотільних накопичувачів NVMe/SAS/SATA (макс. 122,88 ТБ).
• До 16 прямих накопичувачів E3.S NVMe (макс. 122,88 ТБ).
• Внутрішні контролери (RAID): PERC H965i (не підтримується Intel Gaudi3).
• Внутрішнє завантаження: підсистема зберігання даних, оптимізована для завантаження (NVMe BOSS-N1) з HWRAID 1, 2 твердотільними накопичувачами M.2.
• Програмний RAID: S160.

Нетворкінг:

• Комутатори високої щільності з низькою затримкою, що забезпечують пропускну здатність до 800 гігабіт на секунду (наприклад, NVIDIA Quantum-X800 InfiniBand або Spectrum-X Ethernet).
• Платформа HGX B300 часто інтегрує 8 мережевих карт NVIDIA ConnectX-8 безпосередньо в базову плату для забезпечення швидкості між вузлами 800 Гбіт/с.
• Вбудований мережевий адаптер: 2 x 1 GbE.
• 1 x OCP 3.0 (8 ліній PCIe) для мережевих опцій.

Охолодження:

• XE9780: З повітряним охолодженням, призначений для інтеграції в існуючі корпоративні центри обробки даних.
• XE9780L: Рідинне охолодження (пряме рідинне охолодження - DLC), оптимізоване для розгортання в стійці та енергоефективне. Ці моделі використовують технологію рідинного охолодження для зменшення теплового навантаження та оптимізації енергоспоживання, здатні працювати з теплішими температурами води (32°–36°C), що зменшує залежність від енергоємних чилерів.

Форм-фактор:

• 6U стійковий сервер.
• Вага: до 114,05 кг (251,44 фунта).

Блоки живлення:

• Різні опції, включаючи титановий блок живлення потужністю 3200 Вт (277 В змінного струму або 260-400 В постійного струму) та титановий блок живлення потужністю 2800 Вт (200-240 В змінного струму або 240 В постійного струму) з резервним живленням від гарячої заміни.

Інші характеристики:

• PCIe: До 10 слотів x16 Gen5 (x16 PCIe) повної висоти та половинної довжини.
• Вбудоване керування: iDRAC9, iDRAC Direct, iDRAC RESTful API з Redfish.
• Функції безпеки: криптографічно підписана прошивка, безпечне завантаження, TPM 2.0.

Передбачувані завдання та робоче навантаження:

Сервери Dell PowerEdge XE9780 та XE9780L з відеокартою NVIDIA HGX B300 спеціально розроблені для найінтенсивніших обчислювальних навантажень, пов'язаних зі штучним інтелектом та високопродуктивними обчисленнями, що робить їх ідеальними для:

1. Генеративне навчання та висновок ШІ:
• Навчання моделей великих мов (LLM): їхня величезна пам'ять графічного процесора, висока пропускна здатність міжз'єднання (NVLink) та необроблена обчислювальна потужність є вирішальними для навчання надзвичайно великих та складних LLM.
• Масштабний штучний вивід: оптимізовано для виведення великих моделей штучного інтелекту в режимі реального часу, що дозволяє використовувати такі програми, як чат-боти, генерацію контенту та інтелектуальну автоматизацію.
• Агентний ШІ: Підтримка розробки та розгортання агентів ШІ для різних завдань.
2. Машинне навчання та глибоке навчання (ML/DL):
• Прискорення навчання та розгортання глибоких нейронних мереж у різних областях, включаючи комп'ютерний зір, обробку природної мови та системи рекомендацій.
• Обробка надзвичайно великих наборів даних, що потребують значної пам'яті графічного процесора та обчислювальної потужності.
3. Високопродуктивні обчислення (HPC):
• Складні симуляції та моделювання в наукових дослідженнях, інженерії та фінансах.
• Відкриття ліків, моделювання клімату та інші наукові застосування, що потребують багато даних.
4. Робототехніка та цифрові двійники:
• Забезпечення роботизації складних моделей штучного інтелекту, необхідних для керування, сприйняття та прийняття рішень у режимі реального часу в роботизованих системах.
• Забезпечення створення та моделювання високодеталізованих цифрових двійників для промислових застосувань, розумних міст тощо.
5. Багатомодальні застосування штучного інтелекту:
• Розробка систем штучного інтелекту, які можуть обробляти та розуміти різні типи даних, такі як поєднання зображень, відео, тексту та аудіо.

Ці сервери є ключовими компонентами рішення Dell «AI Factory with NVIDIA» – комплексного рішення, розробленого для спрощення та пришвидшення всього життєвого циклу штучного інтелекту для підприємств, від навчання до масштабного розгортання. Варіанти «L» з рідинним охолодженням особливо підходять для щільного розгортання стійок у сучасних центрах обробки даних, прагнучи максимальної обчислювальної потужності з мінімізованим енергоспоживанням.

Найкращі ціни на офіційні сервери DELL PowerEdge R760 в Україні.

Безкоштовна консультація за телефоном +38 (067) 819 38 38

Доступні моделі серверів відповідно до Києва:

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4510 2.4-4.1Ghz 12 ядер

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4514Y 2.0-3.4Ghz 16 ядер

Сервер Dell PowerEdge R760 - Intel Xeon Gold 6526Y 2.8-3.9Ghz 16 ядер

Сервер Dell PowerEdge R760 - Intel Xeon Gold 5420+ 2.0-4.1Ghz 28 ядер