GPU-серверы Supermicro 10U 8GPU - высокопроизводительные двухпроцессорные платформы с восемью взаимосвязанными ускорителями для обучения и инференса нейросетей, LLM, генеративного ИИ и HPC. Системы объединяют большую память DDR5, скоростные интерфейсы GPU, PCIe 5.0, NVMe-накопители, расширяемую сеть, удаленное управление и резервируемое питание, обеспечивая высокую вычислительную плотность для современных ЦОД.
Обзор серверных решений Supermicro 10U на базе 8 GPU
GPU-серверы Supermicro 10U - это высокопроизводительные стоечные системы для искусственного интеллекта, машинного обучения и ресурсоемких параллельных вычислений. Увеличенный форм-фактор 10U позволяет объединить восемь мощных графических ускорителей, два серверных процессора, большой объем оперативной памяти и развитую подсистему ввода-вывода в одном вычислительном узле.
Системы этого класса предназначены для нагрузок, которым недостаточно возможностей отдельных PCIe-видеокарт. Интегрированные GPU-модули работают как единый вычислительный комплекс и обмениваются данными через высокоскоростные межсоединения. Такая архитектура особенно эффективна при обучении больших нейронных сетей, обработке крупных моделей и выполнении распределенных научных расчетов.
Что объединяет GPU-серверы Supermicro 10U
Основным общим признаком группы является архитектура с восемью интегрированными GPU. В зависимости от выбранной платформы серверы могут использовать ускорители NVIDIA или AMD, а также соответствующие технологии высокоскоростного обмена между GPU. Это позволяет выполнять одну вычислительную задачу одновременно на нескольких ускорителях и эффективно работать с моделями большого размера.
Все рассматриваемые системы имеют двухпроцессорную архитектуру. В группе представлены конфигурации на базе серверных процессоров Intel Xeon и AMD EPYC. Большое количество процессорных ядер обеспечивает подготовку данных, управление вычислительными потоками, выполнение системных операций и обслуживание графических ускорителей.
Высокая плотность ускоренных вычислений
Корпус высотой 10U обеспечивает необходимое пространство для размещения восьми GPU, мощной системы охлаждения, накопителей, карт расширения и резервируемых блоков питания. Такой форм-фактор рассчитан на высокое энергопотребление и тепловыделение современных ускорителей.
GPU-серверы 10U занимают больше места, чем компактные стоечные платформы, но обеспечивают высокую производительность одного узла. Это позволяет уменьшить количество отдельных серверов в кластере и сократить число сетевых соединений, необходимых для выполнения крупной вычислительной задачи.
Интегрированные GPU-платформы
Вместо набора независимых графических карт в серверах применяются интегрированные многомодульные GPU-платформы. Ускорители соединяются специализированной высокоскоростной фабрикой, например NVLink и NVSwitch либо Infinity Fabric — в зависимости от конфигурации.
Прямой обмен данными между GPU помогает уменьшить задержки и эффективнее использовать совокупный объем памяти ускорителей. Это особенно важно при обучении больших языковых моделей, когда параметры нейронной сети распределяются между несколькими GPU.
Варианты аппаратной архитектуры
- два серверных процессора Intel Xeon или AMD EPYC;
- восемь интегрированных графических ускорителей;
- GPU-платформы NVIDIA HGX или системы с ускорителями AMD Instinct;
- высокоскоростные межсоединения между GPU;
- интерфейс PCIe 5.0 между процессорами, ускорителями и устройствами расширения;
- большой объем системной памяти DDR5.
Системная и графическая память
Серверы поддерживают большой объем оперативной памяти DDR5 с коррекцией ошибок ECC. Системная память используется для подготовки наборов данных, выполнения процессорной части приложений и обмена информацией между CPU и GPU.
Каждый ускоритель оснащается собственной высокоскоростной памятью. Совокупный объем GPU-памяти позволяет размещать крупные нейронные сети, обрабатывать большие пакеты данных и выполнять сложные научные расчеты без постоянного обращения к более медленной системной памяти.
Подсистема хранения данных
GPU-серверы Supermicro 10U оснащаются фронтальными отсеками для накопителей с горячей заменой. Основу производительной локальной подсистемы хранения составляют NVMe-накопители, подключаемые через PCIe.
Локальные SSD могут использоваться для загрузки обучающих выборок, кэширования данных, сохранения контрольных точек и временного размещения результатов вычислений. В отдельных конфигурациях доступны дополнительные накопители SATA, E1.S и обслуживаемые модули M.2.
Расширение и сетевые подключения
Несмотря на наличие восьми интегрированных GPU, серверы сохраняют слоты PCIe 5.0 для сетевых адаптеров, DPU, контроллеров хранения и других устройств. Это позволяет адаптировать систему к требованиям конкретного вычислительного кластера.
Базовые сетевые интерфейсы дополняются высокоскоростными адаптерами Ethernet или InfiniBand. Производительная сеть необходима для распределенного обучения, синхронизации параметров моделей и передачи данных между GPU-серверами и внешними системами хранения.
Охлаждение и электропитание
Современные GPU и серверные процессоры создают значительную тепловую нагрузку. Корпус 10U предоставляет увеличенный внутренний объем для организации эффективного воздушного охлаждения и стабильной работы компонентов под продолжительной нагрузкой.
Системы комплектуются несколькими резервируемыми блоками питания высокой мощности с уровнем энергоэффективности Titanium. Схема резервирования зависит от конфигурации и позволяет продолжать работу оборудования при отказе отдельного блока питания.
Управление и эксплуатация
Средства удаленного управления позволяют контролировать состояние компонентов, температуры, напряжения, скорость вентиляторов и энергопотребление. Выделенный интерфейс BMC/IPMI упрощает диагностику, обновление программного обеспечения и обслуживание сервера без непосредственного доступа к оборудованию.
Централизованное управление особенно важно при построении кластеров из нескольких GPU-систем. Администраторы могут отслеживать состояние вычислительных узлов и выполнять стандартные операции удаленно.
Области применения
- обучение и дообучение нейронных сетей;
- инференс моделей искусственного интеллекта;
- большие языковые модели и генеративный ИИ;
- машинное и глубокое обучение;
- разговорный искусственный интеллект;
- высокопроизводительные вычисления;
- научные исследования и моделирование;
- бизнес-аналитика и обработка больших данных;
- разработка лекарственных препаратов;
- медицинские исследования;
- финансовое моделирование и выявление мошенничества;
- климатическое и метеорологическое моделирование;
- промышленная автоматизация;
- разработка технологий автономного транспорта;
- облачные вычисления и услуги GPUaaS.
Ключевые особенности
- стоечный форм-фактор 10U;
- двухпроцессорная серверная архитектура;
- восемь интегрированных GPU в одном вычислительном узле;
- выбор платформ с процессорами Intel или AMD;
- поддержка ускорителей NVIDIA или AMD в зависимости от конфигурации;
- высокоскоростные межсоединения между GPU;
- большой объем памяти ускорителей;
- масштабируемая системная память DDR5 ECC;
- слоты расширения PCIe 5.0;
- NVMe-накопители с горячей заменой;
- возможность установки высокоскоростных сетевых адаптеров;
- эффективное воздушное охлаждение;
- резервируемые блоки питания Titanium;
- удаленное управление через BMC/IPMI;
- оптимизация для ИИ, LLM и HPC.
Преимущества GPU-серверов Supermicro 10U
Универсальные GPU-серверы Supermicro 10U сочетают высокую плотность ускорителей с возможностью выбора процессорной и GPU-платформы. Они подходят для организаций, которым требуется мощный автономный вычислительный узел или базовый компонент масштабируемого AI-кластера.
Развитые подсистемы памяти, хранения, сети и расширения позволяют использовать серверы для различных ускоренных нагрузок. В зависимости от конфигурации оборудование может быть оптимизировано для обучения нейросетей, инференса, научных расчетов, аналитики или предоставления облачных GPU-ресурсов.
