Nvidia vrider upp Blackwell-produktionen i höst

Det är alltså en ny typ av interposer (alltså typ som AMD:s infinity fabric) som har varit problemet då datacenter-kretsarna kommer använda sig av en MCM-design, iaf B200 som är två "limmade" kretsar (fast mer som Apples större kretsar än AMD:s Chiplets), även HBM-minnet är ju on die men verkar vara interconnect:en mellan GPU:erna som varit problemet.

Jag har funderat på en sak. Med AI-hajpen, behöver Nvidia ens tillverka konsumentgrafikkort? Inkomsten från dem måste ju vara en spottstyver jämfört med den från AI-kretsar. De kanske gör det av någon slags välgörenhet gentemot communityt?

Behöver och behöver, frågan är väl mer om det är bättre för företaget att inte göra det? Och det bör poängteras att det är inte bara en fråga om 4nm-produktion hos TSMC när det pratas om att det är lägre tillgång än efterfrågan på AI/datacenter-kort, utan det är så väldigt många andra steg i kjedan, CoWoS (som denna nyhet faktiskt handlar om) har varit den största flaskhallsen för nvidias AI-kort, dvs inte den generella kapaciteten för 4nm-noden. Så det är inte som dom per automatik nödvändigtvis har mer AI-kort att sälja för att dom slutar tillverka konsumentkort. Och även om konsumentkort står procuentuellt för lägre andel både av deras omstättning och vinst, så generar såklart dessa kort extra vinst för nvidia. Sen har du ju även faktorer som att det är dumt att lägga alla ägg i korg (om AI-hajpen dör osv). Det finns ju en anledning till att dom iaf låtsades som att gamers var viktigare än miners under crypto-boomen.

Kommer väl dock bli "intressant" att se vart flaskhallserna landar denna generation och hur nvidia väljer att prioritera och hur det eventuellt påverkar konsumentkorten.... Självklart tar dom lägre tillgång av konsumentkort om det behövs, vilket inte är något konstigt. Vi såg samma under krets-bristen där AMD allokerade produktionen till mer lönsamma kretsar.

Så 4st 5090?

De tjänar inte lika mycket per kiselplatta som sina ai-chip, men de tjänar fortfarande miljarder även på gamers

Det som tagit Nvidia till en i nuläget totalt ohotad position i "AI-hajpen" är att man fattade hur kritiskt programvara är samt hur kritiskt tillgänglighet för de som ska använda programvaran för att bygga mer komplex programvara är.

Dels byggde man CUDA och ett väldigt kraftfull infrastruktur kring detta.
Dels har man hela tiden säkerställt att man som utvecklare kan skriva sina CUDA-program vare sig man sitter med ett GTX-1030, ett 4090 eller cloud GPUerna. Detta är otroligt värdefullt för att nå den bredd man faktiskt nått inom AI.

Ingen annan har i nuläget något motsvarande. Apple må ha liknande nivå på stödet mellan programvara och HW, förutsatt att man kör med "Apple-silicon". Men där saknas helt något "molnstöd" just nu.

Intel jobbar på motsvarande med OneAPI. Även om man faktiskt gjort rejäla framsteg på just själva programvaran är det först nu senaste året man fått ett brett stöd för sina GPUer, NPUer (Intel har faktiskt med råge bäst NPU-stöd sett till programvara just nu) och CPU (i detta kontext, SIMD). Men man ligger inte där man tänkt med sina serverlösningar.

AMD splittade desktop och server, så stödet för deras GPGPU-lösning har varit minst sagt skakig på konsument GPUer (och fram till väldigt nyligen icke-existerande för APUer). Men man verkar fattat detta och lär försöka rätta till det med den gigantiska satsning på programvara man i somras berättade att man nu gör.