Nutanix versnelt de adoptie van generatieve AI voor bedrijven

“We zagen een grote respons op de introductie van Nutanix GPT-in-a-Box. Dat bevestigde de behoeften van Enterprise-klanten voor on-premises software-oplossingen die de implementatie en het beheer van AI-modellen en inference endpoints vereenvoudigen”, zegt Thomas Cornely, SVP Product Management bij Nutanix. “We zijn blij met ons snelgroeiende partnerecosysteem om het draaien van GenAI-applicaties on-premises op schaal zo gemakkelijk mogelijk te maken, waarbij de klanten controle houden over privacy en kosten.”

Nutanix GPT-in-a-Box 2.0

Nutanix kondigt GPT-in-a-Box 2.0 aan, dat uitgebreide NVIDIA accelerated computing- en LLM-ondersteuning biedt, in combinatie met vereenvoudigd foundational model management en integraties met NVIDIA NIMs microservices en de Hugging Face LLM library. GPT-in-a-Box 2.0 bevat een uniforme gebruikersinterface voor foundation model management, het aanmaken van API endpoints, end-user access key management en integraties met Nutanix Files and Objects en NVIDIA Tensor Core GPU’s.

Met GPT-in-a-Box 2.0 brengt Nutanix eenvoud in de gebruikerservaring door een ingebouwde grafische gebruikersinterface, rolgebaseerde toegangscontrole, auditability, ondersteuning voor dark sites en andere voordelen. Het biedt ook een point-and-click interface voor de implementatie en configuratie van NVIDIA NIM. NVIDIA NIM is onderdeel van het NVIDIA AI Enterprise software-platform voor de ontwikkeling en inzet van AI.

“We werken samen met Nutanix om onze AI-ambities te realiseren en tegelijkertijd een toekomst mogelijk te maken waarin technologie de mensheid dient”, zegt Khalid Al Kaf, COO bij Yahsat. “We geven actief vorm aan die toekomst door Nutanix GPT-in-a-Box te gebruiken, dat ons voorziet van eenvoudige, end-to-end beheermogelijkheden en de mogelijkheid om controle te behouden over onze data.”

Partnership met Hugging Face voor geïntegreerde toegang tot LLM-bibliotheek

Nutanix kondigt ook een partnership aan met Hugging Face om de AI-reis van klanten te helpen versnellen dankzij geïntegreerde toegang tot de Hugging Face-library en uitvoering van LLM’s voor Nutanix-klanten. Gezamenlijke klanten kunnen Nutanix GPT-in-a-Box 2.0 inzetten om gevalideerde LLM's van Hugging Face eenvoudig en efficiënt uit te voeren.

Binnen dit partnership ontwikkelen Nutanix en Hugging Face een aangepaste integratie met Text Generation Inference, de populaire open-source library van Hugging Face voor de implementatie van Large Language Models. Er worden ook text-generation models beschikbaar op de Hugging Face Hub binnen Nutanix GPT-in-a-Box 2.0. Het biedt een workflow voor de implementatie van validated AI LLM’s van Hugging Face met volledige ondersteuning van Nutanix. Het aantal ondersteunde LLM's wordt daarmee aanzienlijk uitgebreid. Hierdoor ontstaat een gezamenlijke, validated en ondersteunde workflow voor Hugging Face libraries en LLM’s, zodat klanten over één beheerpunt voor model inference beschikken.

Versterkt unstructured data-platform voor AI/ML

Nutanix heeft ook de unstructured data-platformen voor AI/ML en andere applicaties voorzien van betere prestaties, density en TCO. Nutanix Unified Storage (NUS) ondersteunt nu een nieuw 550+ Terabytes dense, low-cost all-NVMe-platform en tot 10 Gigabyte/seconde sequential read throughput vanaf een enkele node, waardoor gegevens sneller worden gelezen en GPU-resources efficiënter worden gebruikt. Nutanix voegt ook ondersteuning toe voor NVIDIA GPUDirect Storage. Om de uiterst waardevolle en vaak vertrouwelijke gegevens te beschermen breidt Nutanix Data Lens bovendien de cyberweerbaarheid uit naar Objects, in aanvulling op Files data, denk dan aan datasets die worden gebruikt voor het trainen en verwerken van AI/ML-workloads. Een nieuwe in Frankfurt-gebaseerde point of presence zorgt voor een bredere adoptie bij EU-klanten die voldoet aan hun eigen compliance-behoeften.

Nutanix heeft samengewerkt met grote server-OEM’s om klanten keuze te bieden met een breed scala aan AI-geoptimaliseerde GPU’s en density-geoptimaliseerde GPU-systemen. Deze AI-geoptimaliseerde GPU’s, waaronder de NVIDIA L40S-, H100-, L40- en L4-GPU’s, worden nu ondersteund door Nutanix GPT-in-a-Box. Nutanix ondersteunt nu ook density-geoptimaliseerde GPU-systemen van Dell, HPE en Lenovo om de TCO te verlagen door klanten met minder systemen te laten voldoen aan hun workload-eisen. Nutanix kondigt verder nog de geplande ondersteuning aan voor NX-9151, die is gebaseerd op de NVIDIA MGX referentie-architectuur.

Nutanix AI-partnerprogramma

Voor de ondersteuning van de AI-strategieën van klanten, kondigt Nutanix het nieuwe AI-partnerprogramma aan. Dit biedt klanten vereenvoudigde toegang tot een uitgebreid ecosysteem van AI-partners. Partners helpen organisaties bij het bouwen, draaien, beheren en beveiligen van GenAI-applicaties van derden en van henzelf, bovenop Nutanix Cloud Platform en Nutanix GPT-in-a-Box.

Dit brede ecosysteem van partners helpt met uiteenlopende use cases, waaronder operations, beveiliging, fraudedetectie en klantenondersteuning in de gezondheidszorg, financiële dienstverlening, en juridische en professionele dienstverlening. Tot de eerste partners behoren Codeium, DataRobot, DKube, Instabase, Lamini, Neural Magic, Robust Intelligence, RunAI en UbiOps.

Voordelen van het programma voor partners zijn onder andere:

• Nutanix AI Ready-validatie: alle partners ontvangen Nutanix AI Ready-validatie om interoperabiliteit met Nutanix Cloud Infrastructure, Nutanix AHV hypervisor en Nutanix Kubernetes Platform te bewijzen.
• Full stack-oplossingen: partners profiteren van individuele solution briefs waarin de voordelen van de Nutanix- en partneroplossingen worden belicht. Daarnaast ontvangen geselecteerde partners een tech note, best practice-gids of referentie-architectuur om de implementatie bij gezamenlijke klanten te vereenvoudigen.
• Promotionele en go-to-market-afstemming: partners profiteren van go-to-market- en demand generation rond AI voor enterprises. Ze krijgen toegang tot promotie- en go-to-market-materiaal, waaronder content, blogs, webinars, podcasts en evenementen om het bewustzijn en de vraag naar belangrijke use cases te vergroten.

Nutanix GPT-in-a-Box 2.0 is naar verwachting beschikbaar in de tweede helft van 2024. Ondersteuning voor NVIDIA GPU Direct en NX-9151 is in ontwikkeling. Aanvullende functies die zijn aangekondigd in NUS en Data Lens zijn nu al beschikbaar voor klanten. Meer informatie is hier te vinden.