Сервер GPU Cisco UCS C880A M8

Корзина

CPU

RAM

Форм-фактор диска

Cisco UCS C880A M8 — стоечная GPU-платформа формата 10U с воздушным охлаждением для обучения и дообучения моделей искусственного интеллекта, инференса LLM и высокопроизводительных вычислений. В основе платформы — NVIDIA HGX B300 NVL8 с восемью GPU в исполнении SXM и двухпроцессорная архитектура Intel Xeon 6.

Платформа объединяет вычислительные ресурсы GPU, процессорную подсистему, локальное хранение и сетевые подключения для работы в составе AI-инфраструктуры. Конкретные процессоры, объём оперативной памяти, накопители и дополнительные адаптеры определяются выбранной конфигурацией.

Для каких задач подходит Cisco UCS C880A M8

C880A M8 предназначен для задач, в которых требуется совместная работа нескольких ускорителей:

— обучение и дообучение крупных нейросетей;
— обслуживание языковых моделей и корпоративных AI-сервисов;
— обработка больших массивов данных;
— вычислительные узлы AI- и HPC-кластеров.

При выборе платформы под LLM важно оценивать не только размер весов модели. Память потребуется также для KV-кэша, промежуточных результатов и служебных данных. Для инференса следует задать длину входного и выходного контекста, число одновременных запросов и допустимое время ответа; для обучения — метод, точность вычислений и объём данных. Требуемую производительность подтверждают испытаниями целевой нагрузки.

Основные особенности платформы

Восемь GPU в архитектуре NVIDIA HGX

HGX B300 использует ускорители Blackwell Ultra и межсоединение NVLink пятого поколения с NVLink Switch. Такая архитектура рассчитана на взаимодействие GPU внутри вычислительного узла.

Ресурсы нескольких ускорителей должны использоваться программным стеком осознанно: через выбранную схему распределения модели или данных. Сумма памяти GPU сама по себе не определяет вместимость приложения и скорость его работы. Для многопроцессорной задачи важны объём обмена между GPU и накладные расходы распределённых вычислений.

Процессоры и оперативная память

CPU и системную память следует подбирать с учётом подготовки данных, загрузки моделей, обслуживания сетевых потоков и работы вспомогательных сервисов. Увеличение объёма RAM не заменяет память GPU; эти подсистемы выполняют разные функции. Поддерживаемые варианты платформы приведены в таблице ниже, а установленные компоненты — на странице выбранной конфигурации.

Локальное хранение и сеть

Локальное хранение целесообразно рассчитывать под рабочие наборы данных, кеш моделей и контрольные точки обучения. Помимо ёмкости важны скорость записи, ресурс носителей и время восстановления после сбоя.

Встроенные ConnectX-8 обслуживают межузловой вычислительный обмен East–West. Подключения North–South используются для связи с внешними сервисами и инфраструктурой. При проектировании кластера нужно согласовать адаптеры, коммутаторы, кабели и трансиверы, а также пропускную способность внешнего хранилища. Наличие сетевого контроллера не означает, что вся необходимая сетевая инфраструктура входит в поставку.

Технические возможности Cisco UCS C880A M8

| Подсистема | Возможности платформы |
|—|—|
| CPU | Два Intel Xeon 6: 6776P или 6767P |
| Оперативная память | 32 слота DDR5 RDIMM; варианты модулей 64, 96 или 128 ГБ |
| Вычислительная сеть | Восемь интегрированных ConnectX-8 |
| Дополнительная сеть | Варианты ConnectX-7, B3220 или B3240; OCP TFF Gen5 x8 |
| Питание | 12 горячезаменяемых БП по 3,2 кВт, резервирование N+N |

Таблица описывает поддерживаемую архитектуру и варианты оснащения. Объём RAM и выбранные сетевые устройства необходимо смотреть в характеристиках конкретной конфигурации.

Управление и программная совместимость

Cisco BMC предоставляет удалённое управление сервером: инвентаризацию, мониторинг, журналы событий, управление питанием, прошивками и порядком загрузки. Для эксплуатации следует выделить сеть управления и определить порядок доступа администраторов, обновления прошивок и контроля событий.

Совместимость ОС и периферии проверяется по Cisco Hardware and Software Interoperability List. Поддержка NVIDIA AI Enterprise и NVIDIA NIM указана в даташите; состав лицензий и подписок необходимо проверять отдельно. Совместимость с программным продуктом не равнозначна включению лицензии в поставку.

Питание, охлаждение и размещение

Для монтажа требуется подходящая серверная стойка с достаточной грузоподъёмностью и местом для обслуживания. Воздушное охлаждение требует свободного прохода воздуха через шасси и рассчитанного отвода тепла на уровне стойки и помещения. Кабели не должны мешать вентиляции или обслуживанию.

Номиналы всех блоков питания нельзя складывать и выдавать за фактическое энергопотребление сервера: часть мощности предназначена для резервирования. Электрическую нагрузку, распределение по вводам, PDU и требования к охлаждению следует рассчитывать для выбранного оснащения и режима работы.

Что проверить перед заказом

— модель и версию нейросети, точность, контекст и параллельность запросов;
— способ распределения вычислений между GPU и серверами;
— необходимую ёмкость и скорость локального и внешнего хранилища;
— совместимость ОС, драйверов, библиотек и периферии;
— сетевую топологию, адаптеры, кабели и трансиверы;
— параметры стойки, электропитания и охлаждения;
— состав программных лицензий и средств управления.

Вопросы и ответы

Можно ли определить скорость инференса только по модели GPU?

Нет. Результат зависит от самой нейросети, точности, длины контекста, движка инференса, пакетирования и числа одновременных запросов. Для сравнения вариантов нужны одинаковая методика и целевые показатели задержки и пропускной способности.

Все перечисленные возможности входят в любую конфигурацию?

Нет. Поддерживаемые варианты CPU, RAM, накопителей и дополнительных сетевых устройств не являются списком установленного оборудования. Точный состав указан на дочерней странице конфигурации.

Можно ли масштабировать решение на несколько узлов?

Межузловое масштабирование нужно проектировать вместе с сетью, хранилищем и программным стеком. Добавление серверов не гарантирует пропорционального ускорения: необходимо оценить коммуникационные затраты и проверить распределённую нагрузку.

Достаточно ли резервных блоков питания для непрерывной работы AI-сервиса?

Резервирование питания защищает только часть инфраструктуры. Для требований к доступности отдельно рассматривают отказ сервера, сети, хранилища и самого приложения, а также восстановление и резервирование сервисов.

Для подбора решения на Cisco UCS C880A M8 передайте специалистам ServerICT параметры нагрузки, требования к доступности и условия размещения. Эти данные помогут определить состав конфигурации и вопросы, которые необходимо проверить до заказа.

Доставка – за наш счет!

Доставим ваш товар в любую точку России бесплатно.

• • Ожидаете оборудование в Москве? Наша компания или наши партнеры привезут аппаратуру по указанному адресу. Очень быстро.

Время доставки до Москвы:

• • • OEM и товары со склада: 3-5 недель
    • Full Factory: 4-12 недель (в зависимости от бренда, сроков производства и очереди)

• Офис в другом регионе? Сразу после завершения таможенного оформления транспортная компания привезет вашу покупку в нужный город.
  Приятно удивим скоростью доставки.

Доставляем товар максимально аккуратно. Потому что, если с грузом что-то случится, убытки покрывать нам.
Наше кредо: полная защита финансовых интересов клиента!

Как купить?

• Расчет в рублях, по курсу ЦБ РФ на день платежа. Только так.
• Строго соблюдаем налоговый режим (ОСНО), поэтому 20 % НДС входит в стоимость вашего товара.
• У нас 100%-ная предоплата. По классике: утром деньги, вечером стулья.
• Но: если вы – наш постоянный клиент, то сможете оплатить заказ позже. Договоримся!
• Физическим лицам отправляем ссылку на оплату через онлайн-кассу — быстро и удобно.