Dell generatieve AI-open ecosysteem uitgebreid met AMD Instinct Accelerators

De explosieve groei van data en de vraag wat we ermee moeten doen, staan centraal in het huidige AI-landschap. AI is de nieuwste innovatie en het is van belang dat organisaties toegang hebben tot de rekenkracht die nodig is om te innoveren. Samen met AMD biedt Dell klanten meer keuze om hun AI en GenAI workloads te verwerken dan ooit tevoren.

Dell PowerEdge XE9680 met AMD Instinct MI300X

De Dell PowerEdge XE9680, de snelste ramping-oplossing in de geschiedenis van Dell [2], ondersteunt de aankomende AMD Instinct MI300X accelerator die klanten meer keuze biedt wat betreft AI-prestaties. De PowerEdge XE9680 met AMD Instinct MI300X biedt krachtige mogelijkheden voor organisaties die de waarde van hun data willen ontsluiten en hun organisatie willen differentiëren met op maat gemaakte grootschalige taalmodellen (large language models, LLM’s). De oplossing heeft acht MI300X GPU’s, 192 GB 5,3 TB/s High Bandwidth Memory (HBM3) per GPU voor een totale coherente HBM3-capaciteit van 1,5 TB per server en meer dan 21 petaflops aan FP16-prestaties. Hierdoor is de PowerEdge XE9680 met MI300X klaar om de toegang tot GenAI verder te democratiseren voor organisaties die grotere modellen willen trainen, hun datacenter voetafdruk willen verkleinen, lagere TCO willen en een voorsprong op de concurrentie willen nemen.

De PowerEdge XE9680 biedt krachtige prestaties en is een kampioen op het gebied van beveiliging en eenvoud. Dell Open Manage Enterprise-software vereenvoudigt en versnelt de implementatie van GenAI-infrastructuur, terwijl CloudIQ-software intelligente automatisering vanaf elke locatie biedt. De PowerEdge XE9680 wordt ondersteund door geïntegreerd cyberherstel en een brede Zero Trust-aanpak voor betere beveiliging.

De PowerEdge XE9680 maakt gebruik van het AMD Instinct Platform – mogelijk gemaakt door acht AMD Instinct MI300X accelerators – dat bijna-lineaire schaalbaarheid en gedistribueerde GenAI-training en inferencing met lage latency met Global Memory Interconnect (xGMI) mogelijk maakt. Dit alles over een cluster van PowerEdge-servers die MI300X GPU’s met elkaar verbindt via een op Ethernet gebaseerde AI-fabric, met behulp van een door Dell gevalideerde GPU-fabric met Dell PowerSwitch Z9664F-ON. 

Dell Validated Design for Generative AI with AMD

Naast de ondersteuning voor de AMD MI300X Instinct Accelerator, kondigen we ook de volgende stap aan van Dell Generative AI Solutions, waardoor organisaties eenvoudiger betrouwbare GenAI kunnen implementeren met de nieuwe Dell Validated Design for Generative AI met AMD.

Deze nieuwe Dell Validated Design for Generative AI met AMD ROCm, mogelijk gemaakt door AI frameworks en vanaf volgend jaar beschikbaar, breidt het ecosysteem van Dell Generative AI Solutions uit en zal open-source LLM’s bevatten. AMD ROCm is een open-source stack van drivers, dev toolkits en API’s voor AMD Instinct accelerators. Dankzij Dell Validated Designs for Generative AI kunnen Dell-klanten eenvoudig betrouwbare GenAI-platforms bouwen, aangepast op hun behoeften, door het giswerk weg te nemen bij overwegingen over integratie, prestaties en formaat.

Beschikbaarheid

Als lid van het Ultra Ethernet Consortium (UEC) blijft Dell pleiten voor networking gebaseerd op standaarden. Dell Technologies bevindt zich in een unieke positie om het volledige potentieel van een open benadering te realiseren, door deze te implementeren in de complete GenAI oplossing: computing, fabric en storage. De Dell PowerEdge XE9680 met AMD Instinct MI300X accelerators en Dell Validated Design for Generative AI met AMD zullen in de eerste helft van 2024 beschikbaar zijn.

Ontdek meer over de Dell PowerEdge XE familie van accelerated servers.
Lees het laatste nieuws over Dell’s groeiende reeks acceleration-producten voor AI, waaronder de AMD Instinct MI300X.

[1] Dell Technologies Generative AI Pulse Survey www.dell.com/genaipulse, oktober 2023
[2] Gebaseerd op een analyse van Dell, augustus 2023