Сервер GPU ASROCK 6U8M-TURIN2 SYN MI300X

Корзина

CPU

RAM

Разъёмы

ASRock Rack 6U8M-TURIN2 SYN MI300X — серверная GPU-платформа формата 6U на базе восьми AMD Instinct MI300X для AI- и HPC-инфраструктуры. Архитектура сочетает два процессорных разъёма AMD SP5, межсоединение GPU через AMD Infinity Fabric и PCIe Switch Synthetic Mode для организации обмена между вычислительными подсистемами.

Платформа задаёт возможности построения сервера: выбор совместимых CPU, оперативной памяти, накопителей и адаптеров выполняется под нагрузку. Установленные компоненты приведены на странице конкретной конфигурации.

Для каких задач подходит ASRock Rack 6U8M-TURIN2 SYN MI300X

Эту платформу стоит рассматривать для задач, которым нужны значительный объём памяти GPU и несколько взаимодействующих ускорителей:

— обучение и дообучение языковых и мультимодальных моделей;
— инференс LLM и корпоративных AI-сервисов;
— научные и инженерные вычисления с поддержкой AMD GPU;
— обработка данных и построение многосерверных вычислительных систем.

Перед выбором следует проверить, поддерживает ли целевое приложение AMD Instinct и нужные режимы вычислений. Для переноса существующей нагрузки важны используемые библиотеки, собственные GPU-операции и доступность совместимых реализаций. Возможности оборудования сами по себе не подтверждают готовность конкретной модели или приложения к запуску.

Основные особенности платформы

Восемь AMD Instinct MI300X и память HBM3

MI300X использует архитектуру AMD CDNA 3. На каждом ускорителе предусмотрено 192 ГБ HBM3 с пиковой пропускной способностью памяти до 5,3 ТБ/с. Восемь GPU дают суммарно 1 536 ГБ памяти; это сумма отдельных ресурсов, а не автоматически доступный любому приложению единый массив.

Для модели необходимо учитывать не только веса, но и память под активации, KV-кэш, рабочие буферы и служебные данные. Для обучения дополнительно оцениваются градиенты и состояния оптимизатора. Способ распределения нагрузки между GPU следует выбирать вместе с программным стеком.

MI300X в этой архитектуре — модуль OAM на GPU-плате UBB 2.0. Межсоединение Infinity Fabric предназначено для обмена между ускорителями. Модули OAM нельзя рассматривать как обычные видеокарты для свободных слотов расширения сервера.

Процессорная подсистема и DDR5

Платформа поддерживает семейства AMD EPYC 9005, 9004 и 97×4. Выбор процессоров определяет доступные вычислительные ресурсы CPU и условия работы системной памяти. Совместимость конкретных артикулов процессоров, DIMM и версии BIOS необходимо проверять по документации и спискам совместимости производителя.

Маркировка модуля DDR5 не является обещанием скорости его работы в любом сервере. Фактический режим определяется процессором, модулями и настройками системы. RAM нужно рассчитывать для подготовки данных, загрузки моделей и работы сервисов; её объём не складывается с HBM3 в общий объём памяти GPU.

Хранение и расширение

При подборе накопителей важно учитывать назначение данных: загрузка ОС, рабочий набор, кеш или контрольные точки обучения. Размещение данных и устройств следует согласовывать с топологией.

Слоты PCIe позволяют проектировать сетевую и дисковую подсистемы под конкретную задачу. Для распределённых вычислений необходимо отдельно определить тип адаптеров, сеть между узлами и подключение к внешнему хранилищу.

Технические возможности платформы

| Подсистема | Возможности |
|—|—|
| Корпус | 6U; 930 × 448 × 264,7 мм |
| Процессорные разъёмы | Два Socket SP5 |
| Оперативная память | 24 слота, по 12 на CPU, 1DPC; DDR5 RDIMM/RDIMM-3DS |
| Расширение | Восемь HHHL и один FHHL, PCIe 5.0 x16 |
| Встроенная сеть | Два 1GbE RJ45, Intel i350-AM2 |
| Управление | IPMI |
| Питание | Восемь CRPS по 3000 Вт, схема 4+4, 80 PLUS Titanium |

В таблице указаны возможности платформы. Наличие слота расширения не означает, что адаптер входит в поставку.

Программный стек и Synthetic Mode

Для AMD Instinct используется экосистема ROCm. Перед внедрением необходимо согласовать версии ОС, ядра, драйвера, ROCm и библиотек приложения. Поддержка GPU в одной версии программного продукта не подтверждает совместимость всех других версий и режимов. Для приёмки полезно заранее определить тесты памяти, межсоединений и целевой нагрузки.

Обозначение SYN относится к PCIe Switch Synthetic Mode. При проектировании обмена GPU, CPU, сети и накопителей нужно проверить применимость функций прямой передачи данных для выбранных адаптеров и ПО. Название режима не заменяет проверку поддерживаемой топологии и не гарантирует ускорение любого приложения.

Питание, охлаждение и размещение

До заказа следует проверить глубину стойки, пространство для кабелей, доступ для обслуживания и допустимую нагрузку на направляющие. План охлаждения должен учитывать тепловыделение всего сервера, температуру воздуха на входе и требования производителя к установленным компонентам.

Схема 4+4 предусматривает резервирование блоков питания. Их суммарный номинал не является фактическим энергопотреблением сервера. Для площадки рассчитывают рабочую и пиковую нагрузку, распределение по вводам и поведение системы при потере части питания.

Что проверить перед выбором платформы

— совместимость модели, фреймворка и библиотек с AMD Instinct;
— режим работы: обучение, дообучение или инференс;
— точность вычислений, длину контекста и число одновременных запросов;
— объём памяти GPU с учётом рабочих данных и буферов;
— требования к RAM, локальному хранению и сети;
— топологию обмена внутри узла и между серверами;
— условия размещения, электропитания и охлаждения.

Вопросы и ответы

Можно ли считать весь объём HBM3 доступным одной модели?

Только если программное обеспечение поддерживает нужное распределение модели и данных между GPU. Вместимость и скорость необходимо оценивать для выбранного режима, включая рабочие буферы и коммуникационные затраты.

Встроенных сетевых портов достаточно для вычислительного кластера?

Требования к сети определяются объёмом и характером обмена. Для интенсивной межузловой работы нужно отдельно рассчитать высокоскоростную сеть, подобрать совместимые адаптеры и проверить масштабирование приложения.

Любые модули DDR5 будут работать на заявленной на них скорости?

Нет. Необходима совместимость с платформой и процессором; итоговая скорость зависит от поддерживаемого режима. Артикулы модулей проверяют по списку совместимости производителя.

Как сравнить эту платформу с решением на NVIDIA?

Сравнивать следует на одинаковой модели, точности и профиле запросов либо обучения. Помимо скорости учитываются переносимость программного стека, необходимая доработка приложения, доступность библиотек, память и требования к площадке. Универсальное превосходство по одной аппаратной характеристике определить нельзя.

Для подбора решения на ASRock Rack 6U8M-TURIN2 SYN MI300X передайте специалистам ServerICT сведения о модели, программном стеке, требуемой производительности и условиях размещения. Это позволит выбрать компоненты и определить программу проверки будущей системы.

Доставка – за наш счет!

Доставим ваш товар в любую точку России бесплатно.

• • Ожидаете оборудование в Москве? Наша компания или наши партнеры привезут аппаратуру по указанному адресу. Очень быстро.

Время доставки до Москвы:

• • • OEM и товары со склада: 3-5 недель
    • Full Factory: 4-12 недель (в зависимости от бренда, сроков производства и очереди)

• Офис в другом регионе? Сразу после завершения таможенного оформления транспортная компания привезет вашу покупку в нужный город.
  Приятно удивим скоростью доставки.

Доставляем товар максимально аккуратно. Потому что, если с грузом что-то случится, убытки покрывать нам.
Наше кредо: полная защита финансовых интересов клиента!

Как купить?

• Расчет в рублях, по курсу ЦБ РФ на день платежа. Только так.
• Строго соблюдаем налоговый режим (ОСНО), поэтому 20 % НДС входит в стоимость вашего товара.
• У нас 100%-ная предоплата. По классике: утром деньги, вечером стулья.
• Но: если вы – наш постоянный клиент, то сможете оплатить заказ позже. Договоримся!
• Физическим лицам отправляем ссылку на оплату через онлайн-кассу — быстро и удобно.