Supermicro begint met levering van NVIDIA GH200 Grace Hopper Superchip-Based Servers

"Supermicro is een erkend leider in het voortstuwen van de huidige AI-revolutie, door datacenters te transformeren die de belofte van AI leveren van vele workloads", zegt Charles Liang, president en CEO van Supermicro. "Het is cruciaal voor ons om systemen te leveren die zeer modulair, schaalbaar en universeel zijn voor snel evoluerende AI-technologieën. Supermicro's NVIDIA MGX-gebaseerde oplossingen laten zien dat onze building-block strategie ons in staat stelt om de nieuwste systemen snel op de markt te brengen en de meest workload-geoptimaliseerde in de industrie zijn. Door samen te werken met NVIDIA helpen we de time-to-market voor ondernemingen te versnellen om nieuwe AI-toepassingen te ontwikkelen, de implementatie te vereenvoudigen en de impact op het milieu te verminderen. De reeks nieuwe servers bevat de nieuwste industrietechnologie die is geoptimaliseerd voor AI, waaronder NVIDIA GH200 Grace Hopper Superchips, BlueField en PCIe 5.0 EDSFF-slots." 

Meer informatie over de NVIDIA MGX-systemen van Supermicro vindt u op: www.supermicro.com/mgx

Registreer en bekijk het Supermicro MGX Webinar

"NVIDIA en Supermicro werken al lange tijd samen aan enkele van de best presterende AI-systemen die er zijn", zegt Ian Buck, vicepresident hyperscale en HPC bij NVIDIA. "Het NVIDIA MGX modulaire referentieontwerp, gecombineerd met Supermicro's server expertise, zal nieuwe generaties AI-systemen creëren die onze Grace en Grace Hopper Superchips bevatten waar klanten en industrieën wereldwijd van zullen profiteren."

Supermicro's NVIDIA MGX platform overzicht

Supermicro's NVIDIA MGX-platforms zijn ontworpen om een reeks servers te leveren die geschikt zijn voor toekomstige AI-technologieën. Deze nieuwe productlijn richt zich op de unieke thermische, stroom- en mechanische uitdagingen van AI-servers.

Supermicro's nieuwe NVIDIA MGX lijn van servers omvat:

• ARS-111GL-NHR - 1 NVIDIA GH200 Grace Hopper Superchip, luchtgekoeld
• ARS-111GL-NHR-LCC - 1 NVIDIA GH200 Grace Hopper Superchip, vloeistofgekoeld
• ARS-111GL-DHNR-LCC - 2 NVIDIA GH200 Grace Hopper Superchips, 2 nodes, vloeistofgekoeld
• ARS-121L-DNR - 2 NVIDIA Grace CPU Superchips in elk van 2 Nodes, 288 cores in totaal
• ARS-221GL-NR - 1 NVIDIA Grace CPU Superchip in 2U
• SYS-221GE-NR - Dual-socket 4e gen. Intel Xeon Scalable processors met tot 4 NVIDIA H100 Tensor Core of 4 NVIDIA PCIe GPU's.

Elk MGX-platform kan worden uitgebreid met NVIDIA BlueField®-3 DPU en/of NVIDIA ConnectX®-7 interconnects voor krachtige InfiniBand- of Ethernet-netwerken.

Technische specificaties

Supermicro's 1U NVIDIA MGX systemen hebben tot 2 NVIDIA GH200 Grace Hopper Superchips met 2 NVIDIA H100 GPU's en 2 NVIDIA Grace CPU's. Elk systeem wordt geleverd met 480 GB LPDDR5X geheugen voor de CPU en 96 GB HBM3 of 144 GB HBM3e geheugen voor de GPU. De NVIDIA-C2C is memory coherent, heeft hoge bandbreedte, lage latentie, en verbindt de CPU, GPU en het geheugen met 900GB/s - 7 keer sneller dan PCIe 5.0. De modulaire architectuur biedt meerdere PCIe 5.0 x16 FHFL-slots voor DPU's voor Cloud- en gegevensbeheer en uitbreidingsmogelijkheden voor extra GPU's, netwerken en opslag.

Met het 1U 2-node ontwerp met 2 NVIDIA GH200 Grace Hopper Superchips kunnen de bewezen direct-to-chip vloeistofkoelingsoplossingen van Supermicro de OPEX met meer dan 40% verlagen, terwijl de computing density toeneemt en de rack scale inzet voor clusters met large language model (LLM) en HPC-toepassingen wordt vereenvoudigd.

Het 2U Supermicro NVIDIA MGX platform ondersteunt zowel NVIDIA Grace als x86 CPU's met tot 4 full-size datacenter GPU's, zoals de NVIDIA H100 PCIe, H100 NVL of L40S. Er zijn ook drie extra PCIe 5.0 x16-slots voor I/O-connectiviteit en acht hot-swap EDSFF-opslagslots.

Supermicro biedt NVIDIA-netwerken om AI-workloads op het MGX-platform te beveiligen en te versnellen. Dit omvat een combinatie van NVIDIA BlueField-3 DPU's, die 2x 200Gb/s connectiviteit bieden voor het versnellen van user-to-cloud en dataopslagtoegang, en ConnectX-7 adapters, die tot 400Gb/s InfiniBand of Ethernet connectiviteit bieden tussen GPU servers.

Developers kunnen deze nieuwe systemen en NVIDIA software snel gebruiken voor elke industriële workload. Dit aanbod omvat NVIDIA AI Enterprise, enterprise-grade software die het NVIDIA AI-platform voedt en de ontwikkeling en implementatie van productieklare generatieve AI, computer vision, spraak-AI en meer stroomlijnt. Daarnaast biedt de NVIDIA HPC software development kit de essentiële tools die nodig zijn voor de vooruitgang van wetenschappelijke informatica.

Elk aspect van de Supermicro NVIDIA MGX systemen is ontworpen om efficiëntie te verhogen, van intelligent thermisch ontwerp tot componentkeuze. NVIDIA Grace Superchip CPU's hebben 144 cores en leveren tot 2x zoveel prestaties per watt vergeleken met de huidige industriestandaard x86 CPU's. Specifieke Supermicro NVIDIA MGX systemen kunnen worden geconfigureerd met twee nodes in 1U, met in totaal 288 cores op twee Grace CPU Superchips om baanbrekende compute density en energie-efficiëntie te bieden in hyperscale en edge datacenters.

Ga voor meer informatie naar de website van Supermicro NVIDIA MGX-systemen: www.supermicro.com/mgx