Intel och AMD slår sig ihop i kampen mot ARM

Ta ett steg tillbaka och fundera på vad det skulle betyda att det är är "en gammal myt"...

Tittar man på SPECint/SPECfp (eller GB6 för del delen, men långt färre har några invändningar om man använder SPEC) så är numera Intel/AMD inte längre på top-3 vad det gäller perf/MHz för high-end CPUer. De är passerad av Apple, Qualcomm och numera även Arm (i Apples fall har redan M1 högre perf/MHz än någon idag existerade x86).

Det som nu även hänt under 2024 är dessa tre även passerat Intel/AMD i absolut prestanda om man bara tittar på marknaden för bärbara datorer (säg effekt <=30 W).

Endera har Intel/AMD permanent fredagsöl på arbetstid, eller så finns det rimligen något som håller dem tillbaka på ett tekniskt plan. Enda glasklara separation här är ISA.

Och om nu ISA inte är viktig, varför är då en av de frågor man vill lyfta i denna grupp just relaterade till största förändring av ISA någonsin för x86? Utöver det handlar väldigt mycket om att "städa gammalt junk" från x86.

Misstaget jag tror det är extremt lätt att göra här är att innan ARM64 hade ingen lyckats göra en ISA som är så fundamentalt mycket bättre än samtida aktuella ISA att det spelade en avgörande roll. Ställd mot MIPS, PowerPC, 32-bit Arm, etc så finns både fördelar och nackdelar ställd mot. x86/x86_64.

ARM64 är på varje punkt lika bra eller bättre än x86_64. Enda fördel som kunna skönjas är ett par speciallfall som ser stor nytta av AVX-512, men inte ens den fördelen finns kvar ställd mot ARM64 modeller som kör ARMv9 (vilket Apple M4 och Arm Cortex X925 använder).

ChatGPT har på sätt och vis både rätt och fel här.

Rätt i att mikroarkitektur är långt viktigare än ISA när det kommer till perf/W vid en given frekvens.

Det kursiva är kritiskt här. För där ISA, specifikt ARM64 (och det Intel ska försöka kopiera till x86 med APX), spelar roll är att man kan nå samma absoluta prestanda genom att bygga en betydligt "bredare" mikroarkitektur fast köra på längre frekvens. Effekt skalar snabbare med frekvensen än med antal transistorer.

Men har under 2024 sett både Zen 5 och Lion Cove fallit rätt platt i prestandaökning och den huvudsakliga förändringen har varit att man byggt på "bredden". Samtidigt ser uppenbarligen Arm (Cortex X4->X925) och Apple (M3->M4) fortfarande rätt rejält utväxling på ökad bredd, X925 är förvånansvärt nära Apple M3 i perf/MHz (och den har passerat Qualcomm Oryon som i sin tur är en bra bit för Intel/AMD).

Intel slog nog de flestas förväntningar med perf/W i Lunar Lake. Man är klart förbi AMD Strix Point.

Fast Intel använder TSMC N3B för att nå dit. Man matchar Snapdragon X i perf/W, de använder TSMC 4 nm.

Intel är rätt långt efter både Strix Point och Snapdragon X i MT prestanda. Rent generellt är 12C Strix Point och 12C Snapdragon X väldigt snarlik i ST och MT prestanda, det på samma TSMC 4 nm process. Men Snapdragon X når dit med färre transistorer än AMD och med bättre perf/W!

Intel/AMD har rimligen lika kompetenta kretsdesigners som Qualcomm, Apple och Arm. Så var kan rimligen skillnaden ligga då?

Intel/AMD inser att de är på väg att hamna i backspegeln. Tyvärr är det rätt mycket tröghet i marknaden, så spelar de korten rätt kan vi få dras med x86 och därmed sämre prestanda/effektivitet än nödvändigt under rätt lång tid framåt...

Tekniken för binäröversättning har tagit gigantiska kliv senaste 10-15 åren. Framförallt tillgängligheten är långt bättre då det idag går att nå via open source.

Har man gamla program som kör 32-bit x86 kommer vilken modern icke-x86 CPU som helst köra dessa program långt snabbare än vad de CPUer från tiden när dessa program utvecklades kan göra.

Rätt säker att detta skrämmer livet ur Intel/AMD. Intel har ju hotat Qualcomm/Microsoft kring den översättningsteknik som används i Windows för ARM64. Deras "problem" är att patentet man hotar med snart passerat sista-datum.

Kan mycket väl vara en förklaring till avsaknad av AVX-stöd i Windows x86_64->ARM64 översättning. Patent för SSE-tekniken har i praktiken gått ut, näst på tur är AVX1 vilket kommer hända kommande åren.

Fast då lyssnar man inte på vad han faktiskt säger. Han säger här att en modern x86_64 design inte domineras av sin front-end, han är helt med på att den är mer komplex (men majoriteten av transistorerna spenderas på andra saker).

Och är inte heller där huvuddel av perf/W skillnaden uppstår, något vi ser rätt väl i Lunar Lake. Skillnaden kommer primärt från att perf/MHz är så mycket högre i moderna ARM64, så de kan nå samma absoluta prestanda vid en lägre frekvens.

perf/W skalar enormt mycket med frekvens. Se på 14:gen Intel. 14900K är direkt horribel, men 14400 är en av de CPU-modeller med bäst perf/W för stationära.

Att Arm och Qualcomm nu kan bygga ARM64 CPUer som vid 3,5-4,2 GHz presterar lika bra som Intels och AMDs modeller gör vid 5,0-5,2 GHz (vilket är frekvenserna vi nu ser för aktuella ultratunna bärbara datorer) är huvudförklaringen till bättre perf/W hos ARM64.

Sen väljer Keller kanske att hålla tillbaka lite, han har trots allt jobbat både för AMD och Intel. Just jämförelsen Snapdragon X och Strix Point är annars väldigt intressant. Väldigt snarlik ST och MT prestanda, det på samma TSMC 4nm. Snapdragon X når det med mindre kretsyta, lägre frekvens och bättre perf/W.

Eller är du inne på att det inte finns någon teknisk skillnad och det helt enkelt bara handlar om att Intel/AMD gör ett sämre jobb just nu?

Ian Cutress går igenom Dimensity 9400 som har Arms nya Cortex X925. Den verkar faktiskt bättre än väntat.

Detta är Intels senaste laptop CPU (Lunar Lake) ställd mot Arm Cortex X925. D.v.s. en laptop CPU mot mobil CPU. Båda på TSMC 3 nm

Arm Cortex X925 är snabbare i absoluta tal, så den är helt överlägsen i perf/W då vi pratar om en krets som drar väl under 10 W.

Och då får man ha med sig att Lunar Lake presterar något bättre i ST jämfört med AMDs senaste laptop CPU (Strix Point)

Så går inte att förklara med "men Apple har 'speciella' optimeringar" eller liknande. Det skrivet, Iphone 16 har en ST som matchar desktop Intel/AMD. Den är långt före laptop-kretsarna

Så skönt att se att det händer något på CPU-sidan igen!!!

Det handlar främst om fysik, så ARM64 kommer har samma form på kurvan. D.v.s. om man använder samma nod som Intel/AMD kommer perf/W dyka rejält om man skulle börja klocka kretsarna lika högt.

Är just brutal perf/MHz som är "killer-app" för ARM64. Och det kommer bli en allt större "killer-app" ju mindre perf/W vinst vi får för varje ny nod (och den vinsten har minskat rätt mycket de senaste noderna).

Det finns självklart en viss skillnad i kunskap. Är också lite olika fokus på vad som är viktigast.

Men känns det rimligt att det kan vara mer än en marginell del av förklaringen? Intel är ju inte sämre än AMD, precis som TechPowerUp nämner i deras artikel om just detta ämne är det nästan lite anmärkningsvärt hur nära varandra Zen 5 och Lion Cove presterar (och Zen 4 vs Raptor Cove innan det) givet att det finns flera rätt stora skillnader i mikroarkitektur.

Och är ju inte bara Apple och Qualcomm som ligger långt före i perf/MHz. Med Cortex X925 har nu även Arm en CPU-design som har ~50 % bättre perf/MHz jämfört med senaste generationen från Intel/AMD.

Arm har nu en CPU-design som är 5-10 % snabbare i absoluta tal, trots att den kör på 3,6 GHz medan Intel/AMD kör på 5,1 GHz.

De skulle helt klart närma sig varandra i perf/W om någon börjar klocka sin ARM64-design lika högt som x86_64. Däremot kvarstår ju skillnaden i perf/W, Apple och Arm är ju i nuläget ca 50 % före på den punkten. Qualcomm är en bit efter med "bara" ca 30 %, men de ser ut att lyfta sig en bit när Oryon "v1,5" kommer i Snapdragon 8 gen 4 (slutet av denna månad eller början av november).

På totalen, nej. Detta då front-end inte dominerar transitor-budget och därmed inte heller effekt-budget.

Om man bara tittar på "front-end", då är det långt mer effektivt med fast instruktionslängd. Det redan innan man väger in att moderna ARM64 kan avkoda 10-12 instruktioner per cykel och Intel gick precis från 5-wide to 8-wide i P-core och 2x 3-wide till 3x 3-wide i E-core. AMD gick från 1x 4-wide till 2x 4-wide.

Nx M-wide är något Intel/AMD gör just p.g.a att det är långt mer komplext att avkoda väldigt många instruktioner parallellt med variabel längd. Komplexiteten växer rätt mycket med kvadraten på bredden med variabel instruktionslängd och närmare linjärt med fast instruktionslängd.

RISC-V valde att ha en mix av 2-byte och 4-byte långa instruktioner, vilket Arm har för sin 32-bit ISA. Kan mycket väl visa sig vara ett misstag, Arm valde ju att inte behålla det för ARM64, där är det fix 4-bytes.

Fix längd gör det enklare att gå väldigt brett. Samtidigt kan man bara konstatera att storleken på binärer är väldigt konkurrenskraftigt för ARM64 ändå, samma program är typiskt lika stort eller mindre kompilerat för ARM64 jämfört med x86_64.

Just det var historiskt en klar nackdel för RISC. PowerPC och än mer MIPS/SPARC gav betydligt större binärer (fler instruktioner) för samma program jämfört med x86_64.