AMD: "Mer effekthungriga grafikkort en oundviklig trend"

Nu lutar det dock åt att det blir sämre utveckling vad gäller energieffektivitet och då blir det ett problem ifall man vill ha bättre prestanda vid liknande strömförbrukning.

Köpare i allmänhet fungerar inte så.

I en perfekt värld hade köpare utvärderat vad som finns på marknaden inom det prisspann köparen hade tänkt sig, och sedan välja en produkt utifrån det. Beroende på prisspann och dagspriser så vinner olika tillverkare från tid till tid.

I verkligheten är det varumärke som styr mångas köpebeslut. Man tittar på två grafikkort inom samma prisspann och köper sedan baserat på vilket märke man föredrar. Är man lite extra bra konsument letar man upp ett test som stödjer ens förutfattade mening om vilket kort som är bättre.

Bilden av vilket märke som är bäst bildas delvis av vem som upplevs vara marknadsledande, vilket i sin tur bildas delvis av vem som har de snabbaste toppkorten.

Detta blir extra tydligt bland de som inte bygger sina egna datorer, utan väljer mellan olika färdigbyggda datorer. Det är betydligt lättare att sälja en färdigbyggd dator med Intel och Nvidia, än med AMD-grejer i. (Konsumenterna börjar lära sig att AMD:s processorer inte är skit, men länge så förknippas AMD av gemene man med kassa grejer från Bulldozertiden...)

Jag önskar att svaret vore "den tillverkare som får ut mest prestanda vid 250W TDP"

Problemet ligger väl i att vi konsumenter vill både ha kakan och äta den.

Som siffror visar så har ju energieffektiviteten ökat.
Utgå från att du har en 250w strömbudget till GPU
Om vi tidigare fick 100fps i 1920x1080p med ett 1080Ti.
Men idag så får du 150fps i 1920x1080p med ett 3050 med samma strömbudget på 250w strömbudget.
Så problemet ligger i konsumenternas önskat om att ligga kvar i exakt samma prestandasegment (1080, 2080, 3080, 4080) med samma strömbudget.

Kan ta mig själv som ett exempel.
Min PSU är på 750w, det är ca 8år gammalt. När jag köpte det hade jag ett GTX 980Ti. Idag kör jag ett 3080Ti med samma PSU.
Det är väldigt stor skillnad i prestanda mellan ett 980Ti och ett 3080Ti trots samma strömbudget. Vist det har varit trevligt och bra för plånboken. Men det har kanske kommit till vägs ände?

Om nu fysikens lagar och tillverkningsteknik gör att jag inte längre kan uppgradera till ett 4080Ti utan får "nöja" mig med ett 4070 utan att ändra min PSU. Så fine jag får ett "sämre kort" men som ändå presterar bättre än mitt 3080Ti.

Disclamer: Obs siffrorna är bara höftade som exempel och jag tog nVidia kort eftersom jag har bättre koll på nVidia historiken.

Det är ju självklart att de snabbaste datorkomponenterna går emot att bli mer strömkrävande så länge som man kan få ur rejält mycket extra prestanda för denna effekt.

Men folk behöver inte köpa de mest kraftfulla grafikkortet och många som klagar kommer säkerligen inte ha råd med detta heller, Jag själv tänker såklart inte lägga 15000kr på ett grafikkort som jag knappt använder.

Till miljöpopulisterna så fokusera erat klagomål emot gamers och speltillverkare, det är de som kör onödiga laster på deras datorer som förbrukar en massa energi, När en speltillverkare lanserar ett nytt spel och visar upp grafiken, börjar då klaga att denna grafik drar mycket energi och spelet kunde ha sämre grafik.

Den bild som AMD visade i ursprungsartikeln är tyvärr rätt målande för vad vi som är att vänta framöver

Den del som utelämnas här är egentligen ännu värre, "death of Dennard scaling" som började ta fart redan runt 45-65 nm.

Så länge som både Moores "lag" och "lagen" om Dennard-skalning (ingen är egentligen en lag, utan en observation kring något som råkade gälla under flera decennier) fungerade så vi enorm prestandaförbättring, både via högre IPC och högre frekvens, vid varje ny generation.

Moores lag såg till att det gick att bygga större och mer avancerade kretsar utan att priset drog iväg medan Dennard scaling såg till att effekten per transistor minskade ungefär i samma takt som densiteten ökade (effekt per area var ungefär konstant).

Utan Dennard scaling har det forfarande gått att öka IPC, framförallt genom att lägga transistorbudget på allt mer specialiserade funktioner. Men nu får man endera acceptera en högre total effekt alt. designa kretsar like hur systemkretsarna allt mer designas: i praktiken kommer aldrig hela kretsen användas samtidigt för ett enskilt fall, men det finns kisel för att specifikt accelerera de viktigaste och/eller tyngsta uppgifterna. D.v.s. man designar för att ha "dark silicon", delar av kretsens förväntas vara inaktiv i normalfallet.

Den riktigt stora gemensamma trenden just nu, öka cache storlek: AMD har det i alla RDNA2, man har sin 3D-cache för CPU, Apple har brutalt stor cache till sina CPUer på varje nivå (Max har 48 MB L3$ och Ultra 96 MB), Nvidia verkar också dra till med väsentligt större cache i Lovlace (ryktas om 96 MB i toppmodellen, jämför det mot 6 MB i toppmodellen av Ampere), enda relevanta nyheten i Raptor Lake verkar vara uppskruvad cache (L2$ ökar med 60 % i P-cores och 100 % i E-cores, medan L3$ ökar ~20 %).

Tittar man på bilden AMD visar ovan känns det egentligen helt bakvänt, SRAM är en av de saker som skalar allt sämre med varje krypning (används för cache) medan logikceller (används t.ex. för att öka IPC samt designa specialfunktioner) fortfarande skalar.

Problemet är nära nog total avsaknad av Dennard scaling numera. Effekten på transistor minskar långt mindre än densiteten ökar numera, d.v.s. effekten per area-enhet och därmed effekten per krets, om man bygger ungefär lika stora kretsar, ökar.

Valet man har då är att öka effekten så mycket som man anser "rimligt", sen får man göra det bästa av situationen. Utdelningen i prestanda är rätt dålig, räknat per area-enhet, på att öka mängden cache. Men det är trots allt något man kan göra utan att effekten går i taket. Tvärtom kan mer SRAM minska effekten då det kostar långt mer att läsa/skriva från RAM än från cache. Och är också gigantisk mängd cache som gör "chiplets" konkurrenskraftiga mot monolitiska kretsar.

Massiv mängd cache "döljer" nackdelarna med flera kretsar (som är att kommunikation utanför en krets drar betydligt mer effekt och har högre latens än kommunikation inom en krets).

Man kan se det på flera sätt.

Positiva synsättet är att industrin visar åter igen att man är otroligt bra på att anpassa sig till hårda begränsningar. Än så länge ökar trots allt prestanda per Watt för varje generation, både AMD och Nvidia har haft rätt stora ökning på GPU-sidan trots ökning av totaleffekt!

Negativa synsättet är att vi kommer få se en långsammare utveckling med avseende på prestandaökning per år. Lär tyvärr också komma med en generell ökning i pris på toppkorten då det vi nu går mot möjliggör mer komplicerade produkter (går att bygga mer komplicerade saker nu när man effektivt kan kombinera flera kretsar till att lösa en viss uppgift).

Angående att man kan välja att stanna på kort med lägre effekt. Skulle säga: delvis sant.

På GPU-marknaden kan man inte hamna allt för långt efter i absolut prestanda, i alla fall inte om man aspirera på att göra grafikkort för spelmarknaden.

Trippel-A titlarna med gigantiska budgetar kommer försöka flytta gränserna. Det betyder att man kommer testa sina produkter på de absolut snabbaste "gaming-korten" som finns och på något sätt försöka utnyttja dessa.

Det betyder rimligen att om toppkorten drar iväg i effekt så kommer även skillnaden i upplevelse med "kort med rimligt effekt kontra toppkort" öka.

Även om inte AMD/Nvidias toppkort för konsumeter vinner några prestanda/krona jämförelser så kräver även de funktioner som DLSS/FSR för att på något sätt kunna dra runt de tyngsta titlarna i 4k.

Accepterar man lägre kvalité går det ändå att konstatera att kort som 970 (använder som exempel då det är det äldsta kort jag själv har kvar) fortfarande kan köra nästan allt i 1920x1080, även om det är på typ "low" idag. Den fantastiska skalningen gör ju ändå att man kan spela de senaste spelen med de kort som har "vettig" effekt.

Skulle säga att majoriteten av köparna fungerar exakt så. På väldigt många marknader finns en eller ett par "teknikledare" som gör det bästa som är möjligt för tillfället, men det med en prislapp som lägger det utanför möjlig eller i alla fall rationellt försvarbar nivå.

Det fungerar uppenbarligen även på marknader där det bara finns två helt dominerade spelare, mobilmarknaden är ett väl det närmaste exemplet (Android har den klart större marknadsandelen trots att Apple har klar teknisk ledning sett till systemkretsen).

Givet den strategi AMD valt med Lisa Su vid rodret, d.v.s. AMD ska inte konkurrera med lägre pris (där har man ju lyckas, vi har aldrig haft den här prisnivå vare sig på CPU- eller GPU-marknaden), så blir ju Sam Naffziger uttalande helt logiskt. Då allt pekar på att Nvidia (just nu odiskutabel marknadsledare för GPU) tänker skruva upp effekten för att vinna topprestanda har AMD två alternativ: ändra sin strategi eller följa efter.

Skitsnack, bara för att Nvidia går åt det hållet, behöver det inte betyda att man måste haka på den...

Hela poängen här är att förbättringarna i energieffektivitet minskar. Vi kommer framöver se allt mer att prestandan bara ökar genom högre effektuttag. Det är liksom kärnan till problemet här. Vill du som konsument ha bättre prestanda vid samma strömbudget kan du förvänta dig högst mediokra förbättringar, samtidigt som mjukvara kommer designas för toppkorten.

Problemet är inte att konsumenter vill ha kakan och äta den. Problemet är att det är en ohållbar utveckling.

Vi kommer dock inte se några större förbättringar i energieffektivitet. Det är hela poängen med artikeln. Dennard-skalning funkar inte längre. Det blir dyrare och svårare att öka transistortätheten och det ger allt mindre fördelar i energieffektivitet.
Om ryktena kring Ada stämmer kommer strömbudgeten öka med 30% från Ampere. Ifall strömbudgeten ska ökas med 30% per generation når vi 1000W inom tre generationer. Förmodligen tidigare då jag inte räknat med Ti-kort.

Skynda dig att söka jobb hos AMD så du kan berätta för dem hur de ökar energieffektiviteten.

Superviktigt numera att recensenter fokuserar mer på pris/prestanda och prestanda/watt.