Följ Black Week på SweClockers
Forum Övrigt Nyhetskommentarer Tråd Inlägg

Nu finns Geekbench AI – mäter datorns AI-prestanda

1 2
Skriv svar
Permalänk
Melding Plague
●

Nu finns Geekbench AI – mäter datorns AI-prestanda

Primate Labs hoppar på AI-tåget med nytt verktyg.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

Framework ONNX
Backend DirectML
Device AMD Radeon RX 7700 XT

  • 22676 Single Precision Score

  • 25339 Half Precision Score

  • 16745 Quantized Score

https://browser.geekbench.com/ai/v1/11658

Senast redigerat
Visa signatur

XFX Radeon RX 7700 XT Speedster QICK 319 Black Edition | AMD Ryzen R7 5700X3D | Noctua NH-D15 | Asus TUF Gaming B550-Plus | Corsair Vengeance LPX DDR4 3200MHz 2x16GB | Samsung 990 Pro 1TB | Corsair HX1000i | Fractal Design Define S | Xiaomi G34WQi | Corsair K95 Platinum | Corsair Sabre RGB PRO Wireless | Corsair Void Elite Wireless

Redigera
Citera flera Citera
Permalänk
Medlem
●

Ryzen 5900X (PBO undervolt), RTX 3080 (undervolt) (kör både processor och grafikkort med lätt undervolt för temps, så kommer ha lite lägre score än icke undervolt)

  • 20805 Single Precision Score

  • 31774 Half Precision Score

  • 12451 Quantized Score

https://browser.geekbench.com/ai/v1/11749

Utan undervolt på GPU.

  • 21303 Single Precision Score

  • 32555 Half Precision Score

  • 12938 Quantized Score

https://browser.geekbench.com/ai/v1/11784

Visa signatur

|Dator: | Phantek P400S | Ryzen 5900X | X570 Aorus Elite | RTX 3080 Ventus OC | Corsair 64gb DDR4 | x2 970 EVO 1Tb | Corsair HX 850i | AC Liquid Freezer II 280 |

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

Mac Studio M1 Max

GPU:

  • 9452 Single Precision Score

  • 9518 Half Precision Score

  • 8677 Quantized Score

NPU:

  • 1988 Single Precision Score

  • 12613 Half Precision Score

  • 12990 Quantized Score

Edit: Testade även min Macbook Air M3 för att se hur NPUn står sig på den.

  • 2427 Single Precision Score

  • 13868 Half Precision Score

  • 14758 Quantized Score

M1 Max trots sin ålder har ju 4x högre minnesbandbredd än M3 (icke Pro, Max, Ultra) så när man leker med LLM etc. är det ju minnesbandbredden som är bottleneck. Vet därför inte riktigt hur man ska se dessa siffror fungerar i real world-scenarion. Är det bara väldigt små modeller som benchmarken är representativ i?

Senast redigerat
Redigera
Citera flera Citera
Permalänk
Antielefant ★
●
Skrivet av alex_farnstrom:

Utan undervolt på GPU.

  • 21303 Single Precision Score

  • 32555 Half Precision Score

  • 12938 Quantized Score

https://browser.geekbench.com/ai/v1/11784

Gå till inlägget

Verkligen saftig skillnad på 3080 och 4080...

  • 32146 Single Precision Score

  • 46935 Half Precision Score

  • 24723 Quantized Score

https://browser.geekbench.com/ai/v1/12015

Visa signatur

i7-12700KF | 128 GB DDR4-4000 | RTX 4080 | Samsung 990 Pro | 3xAcer XB270HU G-Sync

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

ONNX - NVIDIA GeForce RTX 3070

  • 19025 Single Precision Score

  • 31091 Half Precision Score

  • 11995 Quantized Score

https://browser.geekbench.com/ai/v1/11989

ONNX - AMD Ryzen 7 7800X3D

  • 3502 Single Precision Score

  • 845 Half Precision Score

  • 5020 Quantized Score

https://browser.geekbench.com/ai/v1/11957

Visa signatur

Speldator: Ryzen 7800X3D, 64GB DDR5, RTX 3070
Server: i7-8700k, 32GB DDR4, RTX2080
Steam deck + de fiesta konsoller.

Redigera
Citera flera Citera
Permalänk
Medlem ★
●
Visa signatur

5800X3D @Kombo Strike 3 / 32GB DR RAM @3800MHz,CL16 / 3090 Turbo @1695MHz,0.750V

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

https://browser.geekbench.com/ai/v1/12125

Single Precision Score: 2217
Half Precision Score: 655
Quantized Score: 2731

Edit: A750 Åpen ML
https://browser.geekbench.com/ai/v1/12225
Single Precision Score: 10627
Half Precision Score: 9227
Quantized Score: 8148

Senast redigerat
Visa signatur

*5800X|B550M|32GB|RX6600|GX750W|Core V21|280AIO|2TB+2TB|1440p 240Hz

AMD Ryzen 7 @4,95GHz|Gigabyte Aorus Elite(rev1.3)|Corsair 2x16 Vengeance 3200C16 @XMP|MSI Mech 2X Radeon @Stock|Seasonic Focus| Thermaltake mATX kub|Arctic freezer II| NVMe SSD PCIE 4.0x4 Samsung 980 Pro 7000/5100 + 2,5" HDD Toshiba 1TB & Seagate 1TB i RAID 0|Acer Nitro XV272Uz 27" IPS 270Hz @240Hz.

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

Iphone 15 Pro (CPU)

Geekbench AI Score
3659 Single Precision Score
5405 Half Precision Score
4491 Quantized Score

Ganska jämförbart med 7800X3D här ovan

Senast redigerat
Redigera
Citera flera Citera
Permalänk
Medlem ★
●

Intressant iakttagelse att grafikkorten har lägre score när det är quantized.
Det straffar sig väl i real world användning på GPUerna när inference oftast är quantized för att få plats i minnet?

Känns som det kommer ske mycket optimering på dessa grejer.
Precis som Apple bytt från FP16 (Half Precision) till INT8 med M4.

Redigera
Citera flera Citera
Permalänk
Medlem ★
●
Skrivet av medbor:

Iphone 15 Pro

Geekbench AI Score
3659 Single Precision Score
5405 Half Precision Score
4491 Quantized Score

Ganska jämförbart med 7800X3D här ovan

Gå till inlägget

Var det där CPU, GPU eller NPU? Eller kanske det inte går att välja på telefonen?
Vore kul att veta NPU-score på telefonen iaf, speciellt Quantized.

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

Våga vägra Skynet i datorn!

Redigera
Citera flera Citera
Permalänk
Medlem ★
●
Skrivet av Sidde:

Var det där CPU, GPU eller NPU? Eller kanske det inte går att välja på telefonen?
Vore kul att veta NPU-score på telefonen iaf, speciellt Quantized.

Gå till inlägget

Jag missade valet, det där var CPU, ska köra de andra nu

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

Macbook Pro 16" med Apple M3 Max

CPU: 3881 | 5431 | 4457
GPU: 13773 | 14018 | 13461
Neural Engine: 2417 | 16278 | 16920

(Gjorde annat på datorn samtidigt så säkert inte super accurate)

Visa signatur

🍏 MacBook Pro 16" 2023 [M3 Max (16C CPU, 40C GPU), 48 GB RAM, 1 TB SSD]
🕹️ Ryzen 7500F, Asrock A620I, 32GB DDR5, EVGA RTX 3060 12GB, SF750, NR200P
🖥️ ROG Swift OLED PG32UCDP

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

Iphone 15 Pro (GPU)

Geekbench AI Score
4153 Single Precision Score
4715 Half Precision Score
4295 Quantized Score

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

Iphone 15 Pro (NPU)

Geekbench AI Score
2266 Single Precision Score
13492 Half Precision Score
15545 Quantized Score

Jag startade om flera gånger för jag trodde den kraschat eller något. Gissar att slutet på singlepoint var segt, för mätaren stod stilla mellan minut 1-7 på ca 1/3, och testet tog ca 9 minuter att köra jämfört med de andras 1-2 minuter

@Sidde

Imponerande att den slår ett 3070/3080 utan bekymmer

Redigera
Citera flera Citera
Permalänk
Medlem ★
●
Skrivet av medbor:

Iphone 15 Pro (NPU)

Geekbench AI Score
2266 Single Precision Score
13492 Half Precision Score
15545 Quantized Score

Jag startade om flera gånger för jag trodde den kraschat eller något. Gissar att slutet på singlepoint var segt, för mätaren stod stilla mellan minut 1-7 på ca 1/3, och testet tog ca 9 minuter att köra jämfört med de andras 1-2 minuter

@Sidde

Imponerande att den slår en 3070 utan bekymmer

Gå till inlägget

Det var precis det där jag hade magkänsla av. Därför jag bad om den
Väldigt intressant prestanda från en mobil.

(Och NPU-testet tog en jäkla tid på mina macar också)

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

ONNX CPU AMD Ryzen 7 5800X3D:

4019 Single Precision Score
910 Half Precision Score
3774 Quantized Score

ONNX DirectML AMD Radeon RX 7900 XTX:

33445 Single Precision Score
36655 Half Precision Score
26564 Quantized Score

ONNX CPU AMD Ryzen 9 7945HX:

4023 Single Precision Score
973 Half Precision Score
5920 Quantized Score

ONNX DirectML NVIDIA GeForce RTX 4070 Ti SUPER:

29119 Single Precision Score
43388 Half Precision Score
22099 Quantized Score

Core ML CPU Apple M1 (Macbook Air 2020):

2826 Single Precision Score
4297 Half Precision Score
3538 Quantized Score

Core ML GPU Apple M1:

4049 Single Precision Score
4626 Half Precision Score
4152 Quantized Score

Core ML Neural Engine Apple M1:

1766 Single Precision Score
12452 Half Precision Score
12647 Quantized Score

Visa signatur

Desktop: Ryzen 5800X3D || MSI X570S Edge Max Wifi || Sapphire Pulse RX 7900 XTX || Gskill Trident Z 3600 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Redigera
Citera flera Citera
Permalänk
Medlem ★
●
Skrivet av Megacrash:

  • 2639 Single-Core Score

  • 14146 Multi-Core Score

  • 247212 OpenCL Score

https://browser.geekbench.com/v6/cpu/7360414
https://browser.geekbench.com/v6/compute/2613337

Vad är "Quantized Score", inget jag får upp

Gå till inlägget

Tror du kört vanliga Geekbench? Inte Geekbench AI som artikeln handlar om?

Visa signatur

Desktop: Ryzen 5800X3D || MSI X570S Edge Max Wifi || Sapphire Pulse RX 7900 XTX || Gskill Trident Z 3600 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Redigera
Citera flera Citera
Permalänk
Medlem ★
●
Skrivet av evil penguin:

Tror du kört vanliga Geekbench? Inte Geekbench AI som artikeln handlar om?

Gå till inlägget

Ah, klicka bara vidare på någe länk o fick ner Geekbech 6 ser jag nu, gör om gör rätt thx

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

https://browser.geekbench.com/ai/v1/13258

Visa signatur

🗄️ Corsair Carbide 100R Chassi] 🔲AMD® RYZEN™ 9 5950X] 🏬MSI X570 MAG TOMAHAWK WIFI] ❄️Arctic Cooling Liquid Freezer II 240] 🎞️Kingston Fury 128GB (4x32GB) DDR4 3600MHz/CL18.22.22 @CL 16.19.19 Beast] 🏴Powercolor Radeon RX 6950XT 16GB Red Devil] [Thermaltake Toughpower 1200W ][💾Samsung 980 PRO M.2 NVMe SSD 500GB][Lexar NM700 M.2 NVMe SSD 4Tb][Kingston NV2 M.2 NVMe SSD 4Tb ] [Samsung SSD 870 QVO 4Tb][Crucial BX500 SATA SSD 4TB][23 TB WD NAS RED 7200rpm Lagringsdiskar][🖥️ASUS VP28U 4K 28" Skärm][🔌Comhem 1000/1000Mbit fiber][Windows 11 Pro SWE]

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

RTX 4090

36658: Single Precision Score
49675: Half Precision Score
27993: Quantized Score

Visa signatur

AMD Ryzen 5800X3D | MSI 4090 Suprim X | Asus x570 prime pro | 32 GB G-Skill 3600mhz | EVGA G2 1000W | LG CX48

Redigera
Citera flera Citera
Permalänk
Medlem
●

Lågt Värde är bättre ??

Ingen Skynet i denna dator iallafall.

ONNX

Ryzen 3900

2034 Single Precision Score
521 Half Precision Score
2117 Quantized Score

Rx580

7411 Single Precision Score
7798 Half Precision Score
5162 Quantized Score

Edit lagt till GPU

Senast redigerat Lagt till GPU
Visa signatur

Har du Windows 8 och 8.1 så klicka på denna länk
http://nooooooooooooooo.com/

Redigera
Citera flera Citera
Permalänk
Medlem ★
●
Skrivet av maxis:

Lågt Värde är bättre ??

Ingen Skynet i denna dator iallafall.

Ryzen 3900 , Rx580

2034 Single Precision Score
521 Half Precision Score
2117 Quantized Score

Gå till inlägget

Antar att det där var för CPU? Komplettera gärna med GPU också, alltid kul att se hur stor skillnad det är mellan olika generationer.

Visa signatur

Desktop: Ryzen 5800X3D || MSI X570S Edge Max Wifi || Sapphire Pulse RX 7900 XTX || Gskill Trident Z 3600 64GB || Kingston KC3000 2TB || Samsung 970 EVO Plus 2TB || Samsung 960 Pro 1TB || Fractal Torrent || Asus PG42UQ 4K OLED
Proxmox server: Ryzen 5900X || Asrock Rack X570D4I-2T || Kingston 64GB ECC || WD Red SN700 1TB || Blandning av WD Red / Seagate Ironwolf för lagring || Fractal Node 304

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

RTX 7090 Turbo (ej OC):
109974: Single Precision Score
174512: Half Precision Score
36588: Quantized Score

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

https://browser.geekbench.com/ai/v1/12993

7800X3D

  • 3746 Single Precision Score

  • 882 Half Precision Score

  • 5049 Quantized Score

https://browser.geekbench.com/ai/v1/14226

4080Super

  • 31711 Single Precision Score

  • 46052 Half Precision Score

  • 24317 Quantized Score

Redigera
Citera flera Citera
Permalänk
Medlem
●
Skrivet av evil penguin:

Antar att det där var för CPU? Komplettera gärna med GPU också, alltid kul att se hur stor skillnad det är mellan olika generationer.

Gå till inlägget

Fixat!

Visa signatur

Har du Windows 8 och 8.1 så klicka på denna länk
http://nooooooooooooooo.com/

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

Min gamla potatis...

ONNX, CPU, AMD Ryzen 9 5950X
Single Precision Score: 4015
Half Precision Score: 912
Quantized Score: 4292

OpenVINO, CPU, AMD Ryzen 9 5950X
Single Precision Score: 6230
Half Precision Score: 6085
Quantized Score: 8829

ONNX, DirectML, NVIDIA GeForce RTX 3090
Single Precision Score: 25055
Half Precision Score: 36659
Quantized Score: 14768

Redigera
Citera flera Citera
Permalänk
Medlem ★
●
Skrivet av ackwell:

RTX 7090 Turbo (ej OC):
109974: Single Precision Score
174512: Half Precision Score
36588: Quantized Score

Gå till inlägget

Ohhh.. RTX 7080...
Back to The Future...

Visa signatur

42? Seven and a half million years and all you can come up with is 42?!
► FD Define R2 | Win10Pro | i7-3770K | Hyper212+ SP120PWM | P8P67 PRO | CML8GX3M2A1600C9 | 1080 Ti | AX750 | Asus VG27WQ | HP Z27n |► Realme GT Master |

Redigera
Citera flera Citera
Permalänk
Medlem ★
●

Single Precision Score 37997

Half Precision Score 51324

Quantized Score 28406

Framework ONNX
Backend DirectML
Device NVIDIA GeForce RTX 4090 (vatttenkylt utan OC)

Första gången jag hört coilwhine från kortet.

https://browser.geekbench.com/ai/v1/15653

Senast redigerat
Visa signatur

If buying isn't owning, then piracy isn't stealing.
To middle management every problem is someone else's problem.
Smarter machines will create dumber humans.

Redigera
Citera flera Citera
1 2
Skriv svar