Сервер DELL PowerEdge R760xa

Стійковий сервер DELL PowerEdge R760xa AI H100 NVL — це високопродуктивний 2U стійковий сервер, ретельно розроблений для виконання вимогливих робочих навантажень штучного інтелекту (ШІ), машинного навчання (ML) та високопродуктивних обчислень (HPC). Його технічні характеристики та цільові завдання такі:

Технічні характеристики:

• Процесори: Підтримує до двох масштабованих процесорів Intel Xeon 5-го покоління, пропонуючи до 64 ядер на процесор.
• Пам'ять: Має 32 слоти DDR5 DIMM, підтримує реєстрову пам'ять ECC DDR5 зі швидкістю до 5600 МТ/с та максимальною ємністю до 8 ТБ.
• Графічні процесори: спеціально розроблені для роботи з високопродуктивними графічними процесорами, включаючи NVIDIA H100 NVL. Вони можуть підтримувати до 4 подвійних або 12 одинарних PCIe-прискорювачів. NVIDIA H100 NVL зазвичай пропонує значний обсяг високошвидкісної пам'яті (HBM) для вимогливих робочих навантажень штучного інтелекту.
• З’єднання графічних процесорів: Використовує NVIDIA NVLink для забезпечення високошвидкісного прямого зв’язку між встановленими графічними процесорами H100 NVL, що є критично важливим для ефективної паралельної обробки в завданнях штучного інтелекту та машинного навчання.
• Зберігання даних: Пропонує гнучкі варіанти зберігання даних завдяки переднім відсікам, що підтримують до 8 2,5-дюймових накопичувачів SAS/SATA/NVMe (макс. 122,88 ТБ) або до 6 2,5-дюймових накопичувачів NVMe (макс. 92,16 ТБ). Він також підтримує підсистему оптимізованого завантаження сховища (BOSS-N1) з двома твердотільними накопичувачами M.2 NVMe для операційної системи.
• Слоти розширення: Надає численні слоти PCIe Gen5 для розміщення додаткових високопродуктивних мережевих карт (таких як InfiniBand або високошвидкісний Ethernet) та інших карт розширення.
• Мережа: Включає вбудовані високошвидкісні Ethernet-порти та слоти розширення PCIe для додаткових мережевих можливостей. Можна встановити додаткові карти 1GbE або OCP 3.0.
• Блок живлення: Оснащений резервними блоками живлення високої потужності з можливістю гарячої заміни, часто 2400 Вт або 2800 Вт, для забезпечення стабільності та безперебійної роботи системи, особливо з енергоємними графічними процесорами.
• Охолодження: Оснащено вдосконаленим повітряним охолодженням з можливістю прямого рідинного охолодження в певних конфігураціях для керування тепловою потужністю високопродуктивних компонентів.
• Керування: Інтегрований контролер віддаленого доступу Dell (iDRAC9) з контролером життєвого циклу забезпечує комплексне позасмугове керування для віддаленого моніторингу, керування та оновлень.
• Форм-фактор: стійковий сервер 2U, балансування щільності та можливостей розширення.

Заплановані завдання:

Стійковий сервер Dell PowerEdge R760xa AI H100 NVL спеціально розроблений для виконання обчислювально ресурсоємних завдань, зокрема у сфері штучного інтелекту та високопродуктивних обчислень (HPC):

• Навчання ШІ/ML: Висока щільність графічних процесорів та наявність графічних процесорів NVIDIA H100 NVL з NVLink роблять його надзвичайно придатним для прискорення навчання складних моделей ШІ та глибокого навчання.
• Висновок на основі штучного інтелекту: Потужні графічні процесори також забезпечують високопродуктивний та низькозатримковий висновок для розгорнутих моделей штучного інтелекту.
• Високопродуктивні обчислення (HPC): Його потужні процесори, великий обсяг пам'яті та високошвидкісні з'єднання роблять його придатним для різних робочих навантажень HPC, включаючи наукове моделювання, аналіз даних та дослідження.
• Розширена аналітика: Здатність обробляти великі набори даних для розширеного аналізу даних та бізнес-аналітики.
• Інфраструктура віртуальних робочих столів (VDI): Завдяки підтримці кількох графічних процесорів вона може забезпечувати роботу середовищ віртуальних робочих столів з інтенсивними графічними ресурсами.
• Рендеринг-ферми: Підходять для медіа та розважальної індустрії для пришвидшення завдань рендерингу.

По суті, Dell PowerEdge R760xa з графічними процесорами NVIDIA H100 NVL – це потужний сервер, розроблений для вирішення найвимогливіших обчислювальних завдань у сфері штучного інтелекту, машинного навчання та високопродуктивних обчислень, пропонуючи баланс обчислювальної потужності, прискорення графічного процесора, пам'яті та ємності сховища.