Grace Hopper-bestyckade GH200 har knappt börjat levereras till kunder innan Nvidia presenterar en flådigare version med snabbare grafikminne. Den nya versionen av GH200 tar nämligen steget över till HBM3e för grafikdelen GH100 Hopper. Med övergången från HBM3 på vanliga GH200 till HBM3e på den nya versionen ökar mängden grafikminne med 50 procent från 96 GB till 141 GB.
Grafikminnet är konfigurerat i 6 × 24 GB vilket ger en total minnesmängd på 144 GB, men enbart 141 GB är användbart av systemet. Den totala bandbredden ställt mot den HBM3-bestyckade GH200 ökar från under 4 TB/s till 5 TB/s. Nvidia kommunicerar att när GH200 med HBM3e sammanlänkas i par ökar minnesprestandan med 3 gånger.
Grace Hopper i all sin prakt.
Den nya versionen av GH200 är fullt kompatibel med serverstandarden MGX som presenterades av Nvidia under Computex tidigare i år. Den nya versionen kommer dock att samexistera med den vanliga GH200 och säljas till de som behöver ännu mer och snabbare grafikminne.
Inte helt oväntat är den nya versionen ett svar på den ökande efterfrågan på beräkningskapacitet i datacenter för att driva bland annat generativ AI. Enligt Nvidia är den nya GH200 kapabel till att hantera 3,5 gånger större modeller än tidigare versioner.
Den nya versionen av GH200 befinner sig just nu i en utvärderingsfas och kommer att börja rulla ut till kund under andra kvartalet 2024.
