Gör mer ram nytta för ai bild generering

Permalänk
Medlem

Gör mer ram nytta för ai bild generering

Hej börjat leka lite med Fooocus ai och det låser inprincip datorn under bearbetningen.
Den nyttja inprincip 100% av mitt ram och datorn laggar något fruktansvärt.
Har 32 gb ddr5 idag och funderar på om de skulle bli bättre med 64gb?

Eller skulle det sänka prestandan i spel då jag inte kan köra alla i 6000mhz med 4 moduler?

Cpu 7900x
Gpu 7900xtx

Permalänk
Medlem
Skrivet av jope84:

Hej börjat leka lite med Fooocus ai och det låser inprincip datorn under bearbetningen.
Den nyttja inprincip 100% av mitt ram och datorn laggar något fruktansvärt.
Har 32 gb ddr5 idag och funderar på om de skulle bli bättre med 64gb?

Eller skulle det sänka prestandan i spel då jag inte kan köra alla i 6000mhz med 4 moduler?

Cpu 7900x
Gpu 7900xtx

Jag gissar på att något är fel eller att Fooocus inte fungerar så bra med AMD-GPU:er. Jag testade lite snabbt och gjorde en bild med quality settings och 1344x768. Minneanvändningen på GPU:n (Nvidia 4070) gick upp till ca 8 GB och RAM låg på ca 20 GB (men då har jag också 15 flikar uppe i Chrome och CPU-minar så CPU:n pga det jobbar på 100%). Tog inte jättemånga sekunder att generera en bild.

Vad kör du för inställningar?

Permalänk
Medlem
Skrivet av PatrickP:

Jag gissar på att något är fel eller att Fooocus inte fungerar så bra med AMD-GPU:er. Jag testade lite snabbt och gjorde en bild med quality settings och 1344x768. Minneanvändningen på GPU:n (Nvidia 4070) gick upp till ca 8 GB och RAM låg på ca 20 GB (men då har jag också 15 flikar uppe i Chrome och CPU-minar så CPU:n pga det jobbar på 100%). Tog inte jättemånga sekunder att generera en bild.

Vad kör du för inställningar?

Ja du jag har väll standard inställningarna, följde instruktioner för windows med amd gpu.
Men det står ju att amd är experimentell, så nvidia är säkert mycket snabbare.
Men den nyttjar hela gpu minnet och maxar ram , tar väll någon minus att skapa bilden.

Permalänk
Medlem
Skrivet av jope84:

Ja du jag har väll standard inställningarna, följde instruktioner för windows med amd gpu.
Men det står ju att amd är experimentell, så nvidia är säkert mycket snabbare.
Men den nyttjar hela gpu minnet och maxar ram , tar väll någon minus att skapa bilden.

Hmm, kan säkert vara något med att det är experimentellt för AMD, får andra med AMD kort samma sjuka minnesanvändning?

Har du testat någon annan UI, typ ComfyUI eller A1111?

Permalänk
Medlem

Ingen erfarenhet av Fooocus eller AMD gpu för bildgenerering, men rent generellt så är det GPU och VRAM som utnyttjas av stable diffusion, går att köra på ram och cpu, men görs endast i "nödfall" vad jag fattat

Sen är ju Nvidias kort ljusår före i prestanda på i princip allt som gäller generativ AI.
Läste en amd press release för nåt halvår sen där de lyckats uppa prestandan så de börjat sniffa nvidia i baken, vet inte hur mycket som hänt på den fronten dock.

Permalänk
Medlem
Skrivet av PatrickP:

Hmm, kan säkert vara något med att det är experimentellt för AMD, får andra med AMD kort samma sjuka minnesanvändning?

Har du testat någon annan UI, typ ComfyUI eller A1111?

Skrivet av n0kturnal:

Ingen erfarenhet av Fooocus eller AMD gpu för bildgenerering, men rent generellt så är det GPU och VRAM som utnyttjas av stable diffusion, går att köra på ram och cpu, men görs endast i "nödfall" vad jag fattat

Sen är ju Nvidias kort ljusår före i prestanda på i princip allt som gäller generativ AI.
Läste en amd press release för nåt halvår sen där de lyckats uppa prestandan så de börjat sniffa nvidia i baken, vet inte hur mycket som hänt på den fronten dock.

Ja nvidia verkar ligga lite före på vissa saker, ville haft ett nvidia kort men det var ekonomin som fick bestämma när jag köpte det.
Men det presterar bra i spel och riktigt snabbt när jag konverterar h264 till h265.

Men är det vram som är viktigast när man skall skaffa ett kort för det eller är mängden tensor känor viktigare?
Jag håller nämligen på och bygger en hemma server, jag skulle behöva ett kort för att sköta ai till mina övervakningskameror och transcoda plex och convertera 264 till 265.
Vad skulle vara minimum för kort för det?
Tänkte hålla koll efter något begagnat kort i nvidia 3000 serien, sjuka är bara att begagnat priserna i sverige är så höga att det är nästan samma pris som motsvarande av nyare generation.

Permalänk
Medlem
Skrivet av jope84:

Ja nvidia verkar ligga lite före på vissa saker, ville haft ett nvidia kort men det var ekonomin som fick bestämma när jag köpte det.
Men det presterar bra i spel och riktigt snabbt när jag konverterar h264 till h265.

Men är det vram som är viktigast när man skall skaffa ett kort för det eller är mängden tensor känor viktigare?
Jag håller nämligen på och bygger en hemma server, jag skulle behöva ett kort för att sköta ai till mina övervakningskameror och transcoda plex och convertera 264 till 265.
Vad skulle vara minimum för kort för det?
Tänkte hålla koll efter något begagnat kort i nvidia 3000 serien, sjuka är bara att begagnat priserna i sverige är så höga att det är nästan samma pris som motsvarande av nyare generation.

Jag skulle börja med att bli helt säker på om det faktiskt är att du har ett AMD-kort som är problemet. Som @n0kturnal sa har AMD lyckats få upp prestandan rejält det senaste, se denna artikel från Sweclockers som beskriver hur 7900 XTX blev 10 gånger snabbare än tidigare i Stable Diffusion med optimeringar och därmed i princip var ikapp ett RTX 4080.

Tror man på detta är det inte så stor skillnad mellan AMD och Nvidia längre, och då låter det mer som att du har någon bugg eller felinstallation eller liknande

Permalänk
Medlem
Skrivet av PatrickP:

Jag skulle börja med att bli helt säker på om det faktiskt är att du har ett AMD-kort som är problemet. Som @n0kturnal sa har AMD lyckats få upp prestandan rejält det senaste, se denna artikel från Sweclockers som beskriver hur 7900 XTX blev 10 gånger snabbare än tidigare i Stable Diffusion med optimeringar och därmed i princip var ikapp ett RTX 4080.

Tror man på detta är det inte så stor skillnad mellan AMD och Nvidia längre, och då låter det mer som att du har någon bugg eller felinstallation eller liknande

Efter en snabb googling så verkar de inte ha hänt så mycket på amd fronten, de flesta amd användare säger att det forfarande är slött. Så för SD iaf så verkar forfarande nvidia leda racet.

Permalänk
Medlem
Skrivet av n0kturnal:

Efter en snabb googling så verkar de inte ha hänt så mycket på amd fronten, de flesta amd användare säger att det forfarande är slött. Så för SD iaf så verkar forfarande nvidia leda racet.

Tråkigt att höra. Var Sweclockers-artikeln fake news då eller vad är det som har gjort att det i praktiken inte blev som artikeln sa?
Jag tror inte någon skulle säga att det är slött om den presterar precis bakom ett RTX 4080 som artikeln hävdar att den borde kunna efter optimeringarna.

Permalänk
Medlem
Skrivet av PatrickP:

Tråkigt att höra. Var Sweclockers-artikeln fake news då eller vad är det som har gjort att det i praktiken inte blev som artikeln sa?
Jag tror inte någon skulle säga att det är slött om den presterar precis bakom ett RTX 4080 som artikeln hävdar att den borde kunna efter optimeringarna.

Nej det var ett riktigt amd blogg inlägg, att dom lyckats få till det, var dock ingen nyhet om officiellt stöd.
Det hade krävts ganska mycket "special-mek" för att få till det med om jag minns rätt.
Synd det inte hänt nåt sen dess..

@OP Sannolikt så kommer prestandan inte att gå upp mer mer RAM.

Permalänk
Medlem

Fick igång det på min server nu med ett 4060ti och vilken skillnad det blev.
Den använder inte särskilt mycket ram eller cpu som det blir med 7900xtx och det går så otroligt mycket snabbare.

Permalänk
Medlem

För att svara på ursprungsfrågan så är inte RAM jätteviktigt, men VRAM är det. Det allmänt bestspottade 4060 16Gb-kortet är en budgetfavorit för bildgenerering just därför.