Intel visar Lunar Lake – "den mest effektiva arkitekturen någonsin"

Permalänk
Medlem
Skrivet av 0cool:

Det är ju just stora företag som väljer ARM. Energiförbrukningen utgör en märkbar besparing om man har många servrar.

Några av dem har gått så långt att de till och med bygger egna ARM-processorer, Amazon Gravitron och Google Axion till exempel.

nu var det ju inte server-cpuer det gällde utan laptops/endusers. På serversidan kan det absolut gå snabbare precis som att linux slog ut windows på serversidan.

Permalänk
Medlem
Skrivet av Mordekai:

nu var det ju inte server-cpuer det gällde utan laptops/endusers. På serversidan kan det absolut gå snabbare precis som att linux slog ut windows på serversidan.

Förvisso men om både laptops och servrar skulle byta pga energieffektiviteten är det ju inte mycket volym kvar för x86. Vilken tillverkare av mjukvara skulle envisas med att hålla kvar vid x86 i det läget? Skulle ens Intel och AMD göra det?

Arkitekturen är inte lika viktigt som förr i tiden men jag tror fortfarande det är något av en "winner takes all", av många skäl.

Permalänk
Medlem
Skrivet av 0cool:

Förvisso men om både laptops och servrar skulle byta pga energieffektiviteten är det ju inte mycket volym kvar för x86. Vilken tillverkare av mjukvara skulle envisas med att hålla kvar vid x86 i det läget? Skulle ens Intel och AMD göra det?

Arkitekturen är inte lika viktigt som förr i tiden men jag tror fortfarande det är något av en "winner takes all", av många skäl.

Energieffektivitet är inte lika viktigt på laptops, så länge dem håller 8h.
Kostnaden är enorm att byta ut alla laptops

Visa signatur

Intel i5 12600k OC 5.2GHz | Arctic Freezer II 240 | MSI Pro Z690 A | 2x 16Gb Corsair LPX 3200MHz | Asus Tuf 4070 Ti | Corsair Rm850x V3 | 2x 1Tb Samsung 980 m2 | 7x Noctua A14x25

Permalänk
Medlem
Skrivet av Swedishchef_90:

Energieffektivitet är inte lika viktigt på laptops, så länge dem håller 8h.
Kostnaden är enorm att byta ut alla laptops

Men de byts ju ut fortlöpande oavsett? Snittåldern för laptops på företag är 3-4 år. dvs under ett givet år ersätts ca 25-30%.

Känns iaf troligt att man kommer ha sett ett antal copilot+-pc i mötesrum på vart och vartannat företag innan året är slut.

Permalänk
Medlem
Skrivet av 0cool:

Förvisso men om både laptops och servrar skulle byta pga energieffektiviteten är det ju inte mycket volym kvar för x86. Vilken tillverkare av mjukvara skulle envisas med att hålla kvar vid x86 i det läget? Skulle ens Intel och AMD göra det?

Arkitekturen är inte lika viktigt som förr i tiden men jag tror fortfarande det är något av en "winner takes all", av många skäl.

Skillnaderna är lite överdrivna ibland och utvecklingen går snabbt för all teknik, ARM64 är inte så mycket bättre att X86 kommer slås ut i den överskådbara framtiden. Idag säger i princip alla som ber mig om råd att de inte behöver en kraftfull dator, de billigaste duger, ingen pratar längre om att den måste ha lång batteritid, vi har kommit över en del trösklar som gör att en ny dator duger oavsett det mesta, undantaget är just mjukvara, folk orkar inte lära om, att byta mellan Mac och PC för folk som inte har datorer som särintresse kräver något extraordinärt i fördelsväg. Många användare vill ha Windows, Word, Excel och en startknapp i nedre vänstra hörnet. Navelskåderiet bland oss datorintresserade och vår övertro på att någon annan bryr sig är inte långt från hur många upplever crypto-försepråkare. Orka bry sig. Det vi alla kan enas om är att tekniken blir bättre snabbt och det är kul för oss intresserade, för de ointresserade betyder det att de behöver sätta sig in än mindre vilket för de allra flesta är en fördel. Om en processor lovade att de aldrig mer behövde komma ihåg ett lösenord skulle den krossa all konkurrens, om inte så kommer det fortsätta växla vad som för stunden är coolast att vurma om i våra kretsar. Just nu är Apple silicon absolut Top Of Mind bland datanördar men knappast ens vanliga Apple-fanboys, de bryr sig mer om att de tycker att Apple gör enklare interface mellan människa och maskin, vilket varit ett faktum i nära 50 år.

Permalänk
Medlem
Skrivet av Yoshman:

Egentligen är det inte helt relevant att jämföra summan av TOPS. Vad man kan göra med NPU är inte helt jämförbart vad som är möjligt med GPU/CPU.

NPU kan bara användas för inference, den har också rätt mycket restriktioner kring vilka dataformat som kan användas. NPU är bara vettig för att använda färdiga modeller och modellerna behöver formateras på ett specifikt sätt. Ovanpå det är det typiskt så att man kör "komprimerade" (quantized) modeller (är därför INT8 fungerar, man "komprimerar" FP32 modell till INT8).

iGPUer är egentligen inte jättemycket sämre än NPU sett till perf/W, även om den är sämre. Men en iGPU används ju till mycket annat, så finns orsaker till varför man kanske inte vill använda GPU till AI.

Fördelen med GPU är att den stödjer långt fler format och framförallt kan den även användas till träning av modeller (relevant för utvecklare, men inte kanske inte så relevant för slutanvändare).

Så en mer relevant jämförelse är nog: Lunar Lake, Strix Point och Snapdragon X har ur alla praktiska hänseenden samma råprestanda via NPU. 48, 50 och 45 TOPS är ur alla praktiska hänseende samma sak, det lär vara större varians från saker som kvalité på programvara.

Och för Intels del verkar de ha fördelen att just nu ha bäst stöd via programvara. De stödjer flest programvaror, har flest LLMs och andra modeller färdigpakterade för deras NPU etc. Om något har Nvidia visat att i slutändan är det programvara som avgör.

Om man behöver använda en "thin-and-light" laptop som utvecklare verkar ju Battlemage iGPU vara en trevlig bekantskap. Som @Sidde nämner kan det lätt bli flaskhals mot RAM, men så länge som man är beräkningsbegränsad (vilket man absolut kan vara, beror mycket på hur modellen ser ut) så skalar det normalt väldigt väl med "rå beräkningskraft".

Som "vanlig" användare kan man nog vilja "offra" GPUn till LLMs i vissa lägen förutsatt att den presterar bättre än NPU, med Lunar Lake har man då möjlighet till ~40 % högre prestanda om man kör på iGPU i stället för NPU.

Som utvecklare kan det också vara trevligt att ha 67 TOPS ihop med upp till 32 GB "VRAM" i en laptop. Visst är M3 Max långt snabbare och kan ha upp till 128 GB, men är också en klart högre prislapp (en 128 GB M3 Max startar väl på runt 60k).

Nu vet vi inte hur bra/dålig Qualcomms GPU är till detta, men givet att de inte alls nämnt den kan man nog utgå från att den, likt iGPU RDNA3.5, saknar "tensor-cores" (vilket är vad XMX är i Battlemage) och "TOPS" i den GPUn är rimligen i 20-30 TOPS nivån.

I grund och botten är väl TOPS ungefär som FLOPS eller CPU-frekvens, inget som ger mer än en handvisning om absolut prestanda och en hint om upplevelse. Samma modell med olika siffra kan ju jämföras, men inte mellan tillverkare eller annat. Minnesmängd och bandbredd, men också vilka ’OPS’ som menas, är alla verkligen INT4 eller räknar vissa INT8 eller annat?

Permalänk
Medlem
Skrivet av Dyluck:

Denna tråd tyckte jag var intressant https://x.com/ErrataRob/status/1331735953292095491
Vet vi om Qualcomm har löst memory ordering på samma sätt som Apple gjorde?
Atomics borde var enkelt att lösa genom att generera kod som är lika eller mer strikt.
Antar att problemet kommer vid data markerat som volatile, behövs ordentligt med slöa minnesbarriärer för att simulera TSO.

https://www.anandtech.com/show/21445/qualcomm-snapdragon-x-ar...
"Oryon also has hardware accommodations for x86’s unique memory store architecture"