Сервери Dell PowerEdge XE9785 / XE9785L зі штучним інтелектом та AMD Instinct MI350

Сервери Dell PowerEdge XE9785 / XE9785L зі штучним інтелектом та AMD Instinct MI350

Сервери Dell PowerEdge XE9785 та XE9785L зі штучним інтелектом, оснащені графічними процесорами AMD Instinct серії MI350, розроблені для високовимогливих робочих навантажень штучного інтелекту (ШІ) та високопродуктивних обчислень (HPC).

Ось їхні технічні характеристики та передбачувані завдання:

Технічні характеристики Dell PowerEdge XE9785 / XE9785L:

• Прискорювачі графічних процесорів: Вони підтримуватимуть графічні процесори AMD Instinct серії MI350 . Основні характеристики MI350 включають:
• Пам'ять: 288 ГБ пам'яті HBM3E на кожен графічний процесор. Це значний обсяг високошвидкісної пам'яті, що є критично важливим для великих моделей штучного інтелекту.
• Пропускна здатність пам'яті: до 8 ТБ/с (або ~22,1 ТБ/с, за оцінками деяких джерел). Така висока пропускна здатність дозволяє швидко передавати дані до та з графічного процесора, прискорюючи складні обчислення.
• Архітектура: Побудовано на архітектурі AMD CDNA™ 4-го покоління (CDNA4) .
• Процесний вузол: Очікується, що буде побудований з використанням 3-нм техпроцесу .
• Продуктивність: AMD заявляє про до 35 разів вищу продуктивність логічного виводу порівняно з платформою попереднього покоління (MI300X). Вона також підтримує низькоточні обчислювальні формати, такі як FP4 та FP6, які життєво важливі для прискорення генеративного ШІ та робочих навантажень логічного виводу. Очікувана продуктивність FP16 становить 3000-4000 TFLOPS.
• З’єднання: Сервери оснащені 8-канальними з’єднаннями AMD Infinity Fabric , що забезпечує високошвидкісний зв’язок між графічними процесорами всередині сервера.
• Сумісність: Розроблено для забезпечення сумісності з існуючими системами на базі AMD Instinct серії MI300, пропонуючи шлях оновлення.
• Процесори: Сервери працюють на процесорах AMD EPYC™ серії 5 , які забезпечують потужні можливості обробки даних на рівні хоста, доповнюючи графічні процесори.
• Охолодження: Доступні конфігурації як з рідинним, так і з повітряним охолодженням . Варіанти з рідинним охолодженням, такі як Dell PowerCool Enclosed Rear Door Heat Exchanger (eRDHx), розроблені для роботи з надзвичайно щільними розгортаннями штучного інтелекту та високопродуктивних обчислень, захоплюючи 100% ІТ-тепла та потенційно значно знижуючи витрати на енергію охолодження. Потужність повітряного охолодження може сягати 80 кВт на стійку.
• Зберігання: Вони можуть підтримувати до 16 дисків NVMe , забезпечуючи швидке локальне сховище для ресурсомістких робочих навантажень штучного інтелекту.
• Мережа: Інтегрована з мережею 200G/400G , що є важливим для швидкого навчання моделей та передачі даних між вузлами у великих кластерах.
• Програмний стек: Dell підтримує програмний стек з відкритим кодом AMD ROCm™ , який забезпечує підтримку корпоративного рівня для популярних фреймворків штучного інтелекту, таких як TensorFlow, PyTorch та інших провідних фреймворків штучного інтелекту. Він також забезпечує безперешкодну інтеграцію з контейнерними платформами, такими як Docker та Kubernetes.
• Масштабованість: Розроблені як системи масштабування в стійку , що дозволяє щільне розгортання обчислень.

Передбачувані завдання та варіанти використання:

Сервери Dell PowerEdge XE9785 та XE9785L з графічними процесорами AMD Instinct MI350 спеціально призначені для:

• Навчання та точне налаштування моделей великих мов програмування (LLM): величезний обсяг пам'яті (288 ГБ HBM3E на графічний процесор) та висока пропускна здатність пам'яті графічних процесорів MI350 роблять ці сервери ідеальними для навчання та точного налаштування моделей дуже великих мов програмування, які потребують величезної обчислювальної потужності та пам'яті для обробки величезної кількості параметрів.
• Висновок на основі штучного інтелекту: Завдяки своїй здатності забезпечувати значно вищу продуктивність логічного висновку, ці сервери ідеально підходять для розгортання навчених моделей штучного інтелекту для логічного висновку в режимі реального часу в різних застосунках, від генеративного штучного інтелекту до розширеної аналітики.
• Генеративні робочі навантаження ШІ: Підтримка форматів обчислень з низькою точністю (FP4, FP6) безпосередньо пришвидшує процеси генеративного ШІ.
• Високопродуктивні обчислення (HPC): Окрім штучного інтелекту, потужні обчислювальні можливості та високошвидкісна пам'ять також роблять їх чудовими для традиційних завдань HPC, таких як наукове моделювання, аналіз складних даних та передові дослідження.
• Робочі навантаження машинного навчання (ML): Вони призначені для обробки вимогливих робочих навантажень ML, включаючи навчання складних нейронних мереж та обробку великих наборів даних.
• Розгортання штучного інтелекту на підприємствах: ці сервери позиціонуються як ключовий компонент концепції Dell «Фабрика штучного інтелекту», забезпечуючи базову інфраструктуру для підприємств, щоб керувати всім життєвим циклом штучного інтелекту, від отримання даних та навчання моделей до розгортання та управління агентами штучного інтелекту на локальному рівні.
• Багатомодальні програми штучного інтелекту: поєднання потужних графічних процесорів та надійної програмної підтримки робить їх придатними для моделей штучного інтелекту, які обробляють різні типи даних (наприклад, текст, зображення, аудіо).

По суті, ці сервери створені для забезпечення передової продуктивності та ефективності для організацій, які прагнуть пришвидшити свої ініціативи у сфері штучного інтелекту та високопродуктивних обчислень, особливо тих, що стосуються великих та складних моделей.

Найкращі ціни на офіційні сервери DELL PowerEdge R760 в Україні.

Безкоштовна консультація за телефоном +38 (067) 819 38 38

Доступні моделі серверів відповідно до Києва:

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4510 2.4-4.1Ghz 12 ядер

Сервер Dell PowerEdge R760 - Intel Xeon Silver 4514Y 2.0-3.4Ghz 16 ядер

Сервер Dell PowerEdge R760 - Intel Xeon Gold 6526Y 2.8-3.9Ghz 16 ядер

Сервер Dell PowerEdge R760 - Intel Xeon Gold 5420+ 2.0-4.1Ghz 28 ядер