Och för att vara lite mer positiv då: Battlemage ser ju ut att bli riktigt bra, framförallt i kontext av "AI PC"!
Givet att Qualcomm inte nämnt sin GPU alls i kontext av AI kan man gissa att den nog inte är speciellt stark på det ställd mot deras 45 TOPS NPU. Positiva är ändå att det redan finns programvara/drivers för att använda CPU, GPU och NPU på den plattformen.
AMD pratade väldigt lite om GPU-delen när de presterande Strix Point, men de har listat kapacitet på produktsidan. GPU-delen tillför 30 TOPS till de 50 TOPS man har i NPU (totalt 80 TOPS).
En av nyheterna i Battlemage över iGPU Arc är att man lagt till XMX-stöd som ger i sammanhanget en rätt rejäl boost på 67 TOPS (totalt 115 TOPS)
https://images.anandtech.com/doci/21425/Intel_Tech%20Tour%20TW_Xe2%20and%20Lunar%20Lakes%20GPU-26.png
Så totalt sett ser det ut som Lunar Lake kommer vara den starkaste Windows-baserade "AI PC" i höst. Ovanpå det har Intel sen tidigare väldigt bra stöd för både NPU och GPU (i.o.f.s även bra stöd för AVX-VNNI) till PyTorch/Tensorflow i ramverk som är helt öppna.
Då den diskussionen var uppe tidigare: i fallet Intel så får man tydlige bättre prestanda med INT4 över INT8, i alla fall på GPU (TOPS refererar till INT8)
https://www.servethehome.com/wp-content/uploads/2022/03/Intel-Xe-Core-XMX-Matrix-Engine-1.jpg
En annan sak som varit uppe är hur jämförbar "TOPS" siffrorna är. Det finns fortfarande skillnader i detaljer, men som jag förstått det ska alla nu använda sig av INT8.
Att Apple haft lite "udda" beteende kan också ha en rimlig teknisk förklaring: deras NPU stödjer (i alla fall upp till och med M3) bara FP16 så om man kör INT8 så konverterades det till FP16 internt. Så man får ingen förbättring där av att köra lägre än FP16. 38 TOPS FP16 är då riktigt bra, men ändrar inte att man "bara" får 38 TOPS (på M4, 18 TOPS i M3) när man kör INT8.
Så för den som verkligen är ute efter en "Copilot AI PC" ser Lunar Lake ut att faktiskt kunna leverera något riktigt bra!
Sen bara för att sätta allt i relation till dominanten på marknaden: ett 4090 har 660 TOPS i INT8...