John Carmack ser större potential i grafikkort

Kanske bättre med en M.2 än en gammal dinosaur

så han föreslår altså "grafikkort" som är mer eller mindre en dator med allt inkluderat på ett kretskort...

låter som moderkortet på en laptop där allt sitter lött på en och samma pcb eller som i artikeln en spelkonsoll...

eller syftar han mer på typ ett all in one chip som har alla komponenter cpu,gpu,ram,lagring, andra delar i ett gigantiskt chip?

fastlött ram och lagring på pcb är ju ett alternativ... Apple brukar väl hålla rätt stenhårt på detta om jag inte mins fel i sina laptops.

Jo, men lite av det roliga med en dator är ju att den består av delar som går att uppgradera/byta ut?

Fast det är ju bara att dom integrerat ett pci-e till m.2 adapter på grafikkoret, eftersom grafikkretsen inte själv utnyttjar alla pci-e banorna i en x16 slot.

Mer korrekt exempel skulle nog vara Radeon Pro SSG som har M.2 slots.
Även dessa dök upp i Windows som vanliga diskar, men dom var kopplade genom grafikkretsen och kunde, med ett visst API från AMD, även användas som en sorts minne för grafikkretsen i sig. På så vis slapp kretsen skicka en massa förfrågningar till processorn för att få data.

Dock var det typ ingen som implementerade stöd, bland offentligt tillgängliga mjukvaror, möjligtvis att mer specialskrivna arbetslaster fanns. Det blev dock bara en generation med denna feature, så svårt att tro att det var nämnvärt populärt.

Så en SoC på ett kort... like en pi CM (compute module)...
Finns ju redan hela datorer på "PCIE" kort där "moderkortet" i stort sett bara är ett backplane för resten av expansions slotsen och strömförsörjning.

Visst vore det coolt om man liksom kunde göra linux kernel -på- GPU och hela GPU'n kör OS och spel utan en traditionell "CPU" men...

varför?

Det sorgliga är att en speldator fortfarande skulle vara dyrare än en konsol om detta blev verklighet.

Alla moderna grafikkort bör ju ha tillräckligt med arm-kärnor för att kunna agera fristående om de bara designades om

Finns dock mycket i spel som en traditionell processor är långt mycket bättre på än en gpu-kärna

Ja, det är väl ditåt trenden gått under alla år, att komponenter integreras när standarder etablerats tillräckligt starkt och blivit bra nog åt de flesta, och det inte längre finns [mass]marknad för olika tillägg med aktuell funktion. På Pentiumtiden var det IDE-controllers, serie/parallellportscontrollers etc, i nästa generation var det ljudkortet som hamnade på moderkortet, sedan nätverk, USB, osv, osv. Senare evolution integrerade det där i sydbryggan. Idag sköts väl de flesta periferifunktioner i processorkapseln om jag inte misstagit mig.

Exakt vilken benämning den slutliga enda kvarvarande komponenten bör ärva kan man ju lämna som övning eller nåt. Har grafiken huvudnumret kanske det är lämpligt att kalla den grafikkort?

det är lugnt de höjer bara priset på spelkonsoller och datorer till en ny högre samma nivå. mer vinst i fickorna åt alla utom konsumenten.

Carmack skriver:

Det är lite svårt att läsa sig till vad en "command processor" är, men verkar vara en aningen mer generell kärna som används för att orkestrera resten av grafikkortet. Och han verkar ju tänka sig att man kan köra ett enkelt linuxsystem på den här kärnan. Dock pratar han främst om någon form av testbild, så är nog verkligen en PoC och inget annat i det här läget.

Som jag förstår Carmack har hans "vision" har två lösningsvarianter idag, där den ena är likt MI300A och den andra som Tenstorrent Blackhole. Delar med mig vad som skulle egentligen bli lite spontana tankar, men blev lite mer än så.

TLDR:
GPUer behöver CPU instruktioner för att starta och utföra arbete, så en on board CPU skulle kunna avlasta stor del av arbetet, unified memory arkitektur är en viktig komponent för att minska kopiering mellan CPU och GPU.
Att ha en on board OS skulle kunna göra systemet ännu mer autonomt.

The long read, gällande dessa två lösningsvarianter som finns idag:
MI300A har flera GPU enheter och en 24 kärnig Zen enhet, där host CPUn via ROCm skickar initiala "high level" instruktionerna till kortet där on board CPUn (beroende på hur man kodar) sköter de mera intensiva "low level" instruktionerna till GPU/compute delen, tänk typ minskad draw calls.
Den är fortfarande beroende av host CPUn, men skulle i princip kunna köra Carmacks vision.
MI300A är som en GPU där CPU komponenten kompletterar med vissa instruktioner över en unified memory arkitektur, d.v.s. de behöver då inte kopiera data mellan deras domäner (minnen) likt en APU med shared memory, men till skillnad från en APU är MI300A ganska beroende på host CPU ändå, då den inte kör en egen on board OS.

Blackhole däremot har ett par (16st) stora RISC-V CPUer och flera hundra "Baby RISC-V" processorer för enklare funktioner (som routing och enklare "host beteende").
Blackhole kör med en egen Linux kernel (flera kernel:ar) på CPUn och på så vis behöver inte Blackhole förlita sig lika mycket på host CPU under körning.
Där blir det mera som att man kan skicka hela eller delar av programmet eller arbetsuppgiften och köra helt på on board CPUn för instruktionshanteringar till GPUn/Compute delen. Blackhole är då mindre beroende på host CPUn än MI300A, den är mera autonom m.a.o..

Carmack lägger vikten på att kunna "slänga på" ytterligare ett kort i sina system/datorn, och på så vis öka beräkningen automagiskt.
Skulle vi gå helt över till Raytrace eller Path tracing istället för raster så är det vara relativt enklare att dela upp arbetet och på så vis öka prestandan när vi slänger på ytterligare kort, även för en liknande arkitektur som vi har idag (den utan on board CPU samt utan unified memory mellan GPU och host CPU).

På tal om arkitektur och "on board" komponenter, skulle vi däremot börja använda oss mera utav AI beräkningar (vilket kommer att ske samt ger stor nytta för specifikt RT och PT) så behöver vi utöver on board CPU även flera andra "on board" AI accelerationer där samtliga komponenter är under en unified memory arkitektur.
Tänk AI accelerationer då som chiplets eller som inbyggda funktioner i GPUn (funktioner bl.a. som BVH acceleration som finns i dagens moderna GPUer).
Annars en annan approach skulle kunna vara att ha CxL, för att då kunna få till unified memory på vår befintliga arkitektur, dock blir det med högre latens jämförelsevis.

En liten parentes, skulle Apples M-chip "APU" vara som ett PCIe kort istället så skulle den också kunna räknas in, då den är mera som en stor GPU med en liten CPU del. Den har en (snabb) "unified memory" arkitektur där både CPUn och GPUn kan dela minne och på så vis inte behöva processorerna kopiera mellan deras domäner, och kan köra egen host OS.

En liten parentes 2, gamla Intel Larrabee har jag för mig hade en egen Linux kernel också, men den var mera en CPU i grunden med GPU vektor/grafik funktioner.

Inte GPU med iCPU?

Svårt att sia om vad som blir viktigast i framtiden.
Dock intressant hur vi gått från klassiska scenariot med CPU och GPU till helt andra funktioner.

Tänker lite på exempelvis Apple Silicon som innehåller "allt" idag. Speciellt hur CPU och GPU numera samarbetar tillsammans med AI (Core ML).

Traditionella CPU:er från Intel och AMD ger jag inte mycket för.

Hur mycket utilisation får man ut av grafikkortet i en sådan lösning?