Nu finns Geekbench AI – mäter datorns AI-prestanda

Permalänk
Medlem

Processor: A17

Single Precision Score
3064
Half Precision Score
4966
Quantized Score
3887

iPhone 15 Pro Max GPU

Single Precision Score
4140
Half Precision Score
4635
Quantized Score
4259

Neural engine

Testet kraschar varje gång vid 25% avklarat.

Permalänk
Medlem

Äntligen… som vi väntat.

Visa signatur

CPU: Intel i9-12900K Cooler: Asus TUF Gaming LC 240 ARGB MB: Asus TUF Gaming Z690 Plus Wifi D4 GPU: Asus TUF GeForce RTX 3080 Ti 12GB Case: InWin D-Frame HD: Intel Optane 900P 280GB, WD Black SN850 1TB Mem: Kingston Fury Beast RGB 3600MHz CL17 32GB PSU: Corsair AX760 OS: Win11 Pro

Permalänk
Medlem
Skrivet av Dem8n:

Processor: A17

Single Precision Score
3064
Half Precision Score
4966
Quantized Score
3887

iPhone 15 Pro Max GPU

Single Precision Score
4140
Half Precision Score
4635
Quantized Score
4259

Neural engine

Testet kraschar varje gång vid 25% avklarat.

Det kraschar inte, det tar dock ca 9 minuter och står stilla länge. Jag provade ovan #20553422

Permalänk
Medlem
Skrivet av medbor:

Det kraschar inte, det tar dock ca 9 minuter och står stilla länge. Jag provade ovan #20553422

Aha, jag hade inte tålamod att fortsätta vänta, men jäkligt imponerande siffror för en mobil.

Permalänk
Datavetare

En nyhet i Apple M4 är att den får ARM64s motsvarighet till AVX-512: SVE2

Ipad Pro 2024 mot M3 Max, just för detta ger SVE2 i M4 rejäl fördel över NEON i M3

https://browser.geekbench.com/ai/v1/compare/17065?baseline=18...

Visa signatur

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer

Permalänk
Skrivet av Sidde:

Intressant iakttagelse att grafikkorten har lägre score när det är quantized.
Det straffar sig väl i real world användning på GPUerna när inference oftast är quantized för att få plats i minnet?

Känns som det kommer ske mycket optimering på dessa grejer.
Precis som Apple bytt från FP16 (Half Precision) till INT8 med M4.

Nvidia stryper vissa saker på konsumentkort. Det är ingen ny företeelse utan dom har gjort det i många år. Ibland får dom bita i det sura äpplet och låsa upp vissa saker för oss skräpmänniskor som inte har pengar till, eller behov av, deras professionella kort. 10bits färg var en sån grej. När OLED och HDR blev en grej så var dom tvungna att låta vanliga användare få tillgång till det.