Сервер GPU Dell NVIDIA H100

CPU

Форм-фактор диска

GPU (Видеокарта)

Процессор

Два GPU NVIDIA H100 в одном сервере Dell — это не компромисс между ценой и мощностью, а осознанный выбор архитектуры. Платформа Dell PowerEdge R760xa в такой конфигурации дает 188 ГБ объединенной GPU-памяти через NVLink и делает инференс, дообучение и аналитику данных без избыточных трат на железо. Когда нагрузка вырастет — шасси расширяется до четырех H100 без замены корпуса. Для задач уровня полного тренинга крупных моделей ServerICT поставляет старшие конфигурации той же линейки: XE9640 на четырех SXM-ускорителях и XE9680 на восьми.

Платформы и технические параметры

ServerICT работает с тремя конфигурациями Dell под ускорители NVIDIA H100. Каждая рассчитана на свой класс задач — от управляемого инференса до полномасштабного тренинга.

R760xa: старт с двух H100 NVL, рост до четырех

Шасси R760xa занимает 2U в стойке и рассчитано на двуслотовые GPU с интерфейсом PCIe Gen5. Процессор — Intel Xeon Gold 6438Y+ с 32 ядрами, что дает достаточную пропускную способность для предобработки данных и управления потоками без узких мест со стороны CPU.

Ускоритель NVIDIA H100 NVL несет 94 ГБ памяти HBM2e при TDP 350–400 Вт. Два таких модуля, установленных в одном шасси, соединяются по NVLink и работают как единый домен на 188 ГБ. Это принципиально для инференса моделей, которые не помещаются на одну карту: данные передаются между GPU без участия CPU и системной шины.

Характеристики конфигурации R760xa + 2× H100 NVL:

• GPU: 2× NVIDIA H100 NVL PCIe, по 94 ГБ HBM2e.
• Объединенная GPU-память через NVLink: 188 ГБ.
• CPU: Intel Xeon Gold 6438Y+, 32 ядра.
• Форм-фактор: 2U Rack.
• Слоты под GPU: до 4× двуслотовых PCIe Gen5 x16.
• Охлаждение: воздушное.
• Удаленное управление: iDRAC9 + OpenManage.

XE9640: четыре H100 SXM в жидкостном охлаждении

XE9640 — это 2U-платформа с жидкостным охлаждением CPU и GPU. Четыре ускорителя NVIDIA HGX H100 SXM по 80 ГБ HBM3 соединены через NVLink с суммарной пропускной способностью 900 ГБ/с. Общий объем GPU-памяти — 320 ГБ. Два процессора Intel Xeon Scalable 4-го или 5-го поколения дают до 64 ядер каждый. Оперативная память — до 2 ТБ DDR5 ECC в 32 слотах.

XE9680: восемь H100 SXM в стоечном 6U-корпусе

XE9680 — верхняя точка линейки. Восемь ускорителей NVIDIA HGX H100 SXM по 80 ГБ HBM3, объединенных через NVLink, дают 640 ГБ суммарной GPU-памяти. Два процессора Intel Xeon Scalable 5-го поколения до 64 ядер на CPU. ОЗУ — до 4 ТБ DDR5 ECC в 32 слотах. Хранилище — до восьми дисков NVMe 2.5″ с горячей заменой. Блоки питания — два по 2800 Вт с резервированием.

Технические параметры, одинаковые для всех трех платформ:

• Архитектура GPU: NVIDIA Hopper с Transformer Engine 4-го поколения.
• Форматы вычислений: FP64, FP32, TF32, BF16, FP16, FP8, INT8.
• MIG: до 7 изолированных виртуальных экземпляров на каждый ускоритель.
• Программный стек: CUDA, PyTorch, TensorFlow, TensorRT-LLM, vLLM, JAX.
• Сеть: NVIDIA ConnectX-7, InfiniBand NDR, Ethernet 400 GbE.
• Управление: iDRAC9 Enterprise, мониторинг GPU в реальном времени.
• Защита: Silicon Root of Trust, TPM 2.0, System Lockdown.

Почему Dell, а не сборка из компонентов

Серверы Dell XE-линейки проектировались совместно с NVIDIA, а не собирались из готовых модулей под GPU. Это дает несколько практических преимуществ:

• Во-первых, все конфигурации проходят заводскую валидацию на совместимость с конкретными версиями CUDA-стека, драйверов и NVIDIA AI Enterprise. Риск «необъяснимых» сбоев при добавлении нового GPU или обновлении драйвера существенно ниже, чем на нестандартных сборках.
• Во-вторых, iDRAC9 Enterprise ведет мониторинг GPU — температуру, тактовую частоту, загрузку памяти, ошибки ECC — наравне с процессором и дисками. Все видно в одном интерфейсе без сторонних агентов. OpenManage автоматизирует обновление прошивок сразу на нескольких узлах, что важно при работе с кластером.
• В-третьих, цепочка поставки Dell защищена на уровне прошивки: Silicon Root of Trust проверяет целостность загрузчика еще до старта ОС. Для компаний с требованиями к информационной безопасности это часто является обязательным условием закупки.

Где применяется

Инференс в продакшне. 188 ГБ объединенной памяти на R760xa превосходят большинство open-source моделей до 100B параметров без квантизации. MIG разделяет каждый ускоритель на независимые экземпляры, что позволяет одновременно держать несколько моделей в памяти с гарантированными ресурсами для каждой. Latency остается предсказуемой даже при пиковой нагрузке.

Дообучение и fine-tuning. LoRA и QLoRA на двух H100 NVL покрывают модели до 70B без ограничений по памяти. Transformer Engine переключает точность вычислений между FP8 и BF16 автоматически — это ускоряет тренинг без ручной настройки и без потери качества весов.

HPC и расчеты с двойной точностью. H100 PCIe дает до 51 TFLOPS в режиме FP64 Tensor Core. Молекулярная динамика, геофизические симуляции, финансовое моделирование — задачи, где раньше требовались отдельные HPC-узлы, теперь запускаются на той же платформе, что и AI-нагрузки.

Видеоаналитика и компьютерное зрение. Два H100 NVL справляются с несколькими потоками видео 4K одновременно. Это актуально для производственного контроля качества, медицинской диагностики по изображениям и систем видеонаблюдения с детекцией объектов.

Масштабирование до кластера. R760xa с четырьмя H100 PCIe объединяется с другими узлами через InfiniBand NDR или Ethernet 400 GbE. XE9640 и XE9680 поддерживают NVIDIA AI Enterprise без переработки программного стека — переход между конфигурациями не требует переписывать код или менять оркестратор.

Часто задаваемые вопросы

Можно ли добавить GPU позже?

R760xa изначально рассчитан на рост: шасси поддерживает до четырех двуслотовых GPU PCIe Gen5, кабели и слоты предусмотрены конструкцией. Добавление двух H100 NVL не требует замены корпуса. Если нагрузка вырастет до уровня восьми ускорителей, ServerICT помогут с переходом на XE9680 — варианты апгрейда обсуждаются с персональным менеджером.

Что входит в гарантийное сопровождение?

ServerICT выдает собственную гарантию на 12 месяцев — она не зависит от того, работает ли Dell официально на российском рынке. Каждая поставка идет с заводскими документами, таможенными актами и сертификатами. Постгарантийное обслуживание оформляется отдельным договором, условия согласовываются индивидуально.

Совместимость с AI-фреймворками?

H100 поддерживает полный стек CUDA 12.x, PyTorch, TensorFlow, TensorRT-LLM, vLLM, Triton, JAX. Для команд, которые работали на A100, миграция не требует изменений в коде — H100 обратно совместима на уровне CUDA. Инженеры MLOps-отдела ServerICT помогут развернуть окружение и настроить фреймворки под задачу.

Требования к питанию и охлаждению?

R760xa с двумя H100 NVL потребляет до 800–1000 Вт при полной нагрузке и работает с воздушным охлаждением — стандартная стойка ЦОД подходит без доработок. XE9640 с SXM-ускорителями требует жидкостного контура: перед заказом инженеры ServerICT проверят, что инфраструктура ЦОД соответствует требованиям.

Возможна ли кастомная конфигурация?

Да. ServerICT собирает конфигурации под конкретные задачи: объем ОЗУ, состав и количество NVMe-накопителей, сетевые карты, версия CPU. Доступна рассрочка платежа до 90 дней — условия обсуждаются индивидуально. Средний срок поставки составляет три недели, в большинстве случаев оборудование прибывает раньше.

Оставьте заявку или свяжитесь с менеджером ServerICT — получите расчет стоимости и точные сроки поставки сервера Dell с GPU NVIDIA H100 под вашу задачу.

Доставка – за наш счет!

Доставим ваш товар в любую точку России бесплатно.

• • Ожидаете оборудование в Москве? Наша компания или наши партнеры привезут аппаратуру по указанному адресу. Очень быстро.

Время доставки до Москвы:

• • • OEM и товары со склада: 3-5 недель
    • Full Factory: 4-12 недель (в зависимости от бренда, сроков производства и очереди)

• Офис в другом регионе? Сразу после завершения таможенного оформления транспортная компания привезет вашу покупку в нужный город.
  Приятно удивим скоростью доставки.

Доставляем товар максимально аккуратно. Потому что, если с грузом что-то случится, убытки покрывать нам.
Наше кредо: полная защита финансовых интересов клиента!

Как купить?

• Расчет в рублях, по курсу ЦБ РФ на день платежа. Только так.
• Строго соблюдаем налоговый режим (ОСНО), поэтому 20 % НДС входит в стоимость вашего товара.
• У нас 100%-ная предоплата. По классике: утром деньги, вечером стулья.
• Но: если вы – наш постоянный клиент, то сможете оплатить заказ позже. Договоримся!
• Физическим лицам отправляем ссылку на оплату через онлайн-кассу — быстро и удобно.