Permalänk
Hedersmedlem

Ny filserver med FreeNAS

Jag har länge kört en Windows-baserad filserver. Det har applikationsmässigt fungerat väldigt bra, men redundans och liknande är inte optimalt i Windows-miljö. Microsofts mjukvaru-RAID-funktion fungerar irriterande dåligt och har gjort att jag förlorat otaliga terabyte med data. Så under hösten 2013 började jag skissa på en ny server. Att den skulle köra ZFS var nästan klart från början, men det tog lite reserach innan jag insåg att FreeNAS verkligen har utvecklats och blivit en riktigt stabil plattform för en filserver. Jag har tidigare erfarenhet med denna FreeBSD-baserade NAS-dist men de sista åren har mjukvaran verkligen blivit stabil och funktionsrik.

Den ursprungliga budgeten var ungefär 5 000 kronor. Det skulle räcka till ett nytt moderkort, processor, minnen och 1-2 nya diskar. Men efter djupt grävande i diverse ZFS-forum insåg jag hyfsat snabbt att jag var tvungen att satsa på serverkomponenter om det skulle bli ett seriöst bygge. Den slutgilitga kostnaden blev totalt tre gånger mer än ursprungliga budgeten, men då har jag även planerat att använda servern i många år samt satsat på exakt de komponenter jag vill ha.

Kort och gott började jag få ihop komponenter som skulle fungera ypperligt med ZFS och FreeBSD. Det blev ett moderkort från SuperMicro, inte helt oväntat, samt 24 GB ECC-minne. Som hårddiskkontroller skulle jag först använda ett äldre LSI Logic 1068e-baserat kort (flashat till IT-firmware) men efter att ha konstaterat att det inte passade vidare SMART-info till FreeBSD köpte jag ett IBM M1015 på Ebay och flashade det till IT-firmware. Det är ett av de mest använda korten till FreeNAS och jag förstår verkligen varför efter någon månads drift.

När det kommer till chassi hade jag först tänkt använda mitt gamla Codegen S411 4U-chassi, men efter att ha hittat ett trevligt 12-bays 2U-chassi för cirka 2 000 kronor exkl frakt från ett Hollänskt företag slog jag till. De säljer normalt mycket Norco exempelvis, men de har även eget märke i form av Ri-Vier. Är hittills väldigt nöjd med chassit. Den enda nackdelen är att TFX-nätagg inte passar i chassit, dock löste jag det med dubbelhäftande kardborrband. Det diffar cirka 0.5 CM på varje sida.

Jag har än så länge inte hunnit med att testa 10 Gigabit-kortet från SuperMicro, labbar just nu med både SMB/CIFS-prestanda samt iSCSI. ZFS och iSCSI är generellt ingen bra kombination vilket jag fått erfara. Intels "ix"-drivrutin som finns i FreeNAS är dessutom inte helt stabil i alla lägen, kollar just nu på lösningar på detta.

Komponenterna ser ut som följande:

Processor: Intel Core i3 4130T
Moderkort: SuperMicro X10SLM-F-O
Minne: 3x 8 GB Kingston 1600 MHz ECC (24 GB totalt)
Chassi: Ri-Vier RVS2-06A 12Bay 2U
Nätagg: Be Quiet! TFX 300W
Kontrollerkort: IBM M1015 med IT-firmware
Nätverkskort: SuperMicro AOC-STG-I2 2p CX4 10GbE
Lagring: 6x1 TB, 2x2 TB, 3x4 TB, 60 GB SSD (Intel 330)

Intel SSD:n används som syslog-disk samt jail-disk och temporär disk generellt. 1-terabytediskarna sitter i en RAIDZ2, 2-terabytediskarna i en stripe samt 4-terabytediskarna i en RAIDZ1. Det ger mig ungefär en total faktisk lagringskapacitet på 15 TB.

Övriga funktioner i FreeNAS:
:: iSCSI-server för backup från webservern via iSCSI
:: Jail: Murmur (mumble server)
:: Jail: Plex Media Server
:: Jail: OwnCloud

Framtida projekt:
:: LACP/LAGG med 10 Gigabitskortet
:: Separat fysiskt interface mot routern för internetbaserad åtkomst
:: Utökad övervakningsmöjligheter på separat burk, t.ex med monitorix
:: Ytterligare 3x4 TB diskar samt en dynamisk stripe med befintlig vdev
:: Dubbla SSD:er med UFS för blixtsnabb iSCSI-åtkomst via 10 GbE

Mer info inom kort!

Ny filserver med FreeNAS

Visa signatur

SWECLOCKERS.COM :: If Quake was done today ::
WS: Gigabyte Z690 UD DDR5 :: Core i5 12600K :: 32 GB RAM :: Geforce RTX 3060 Ti :: 10 GbE NIC :: AOC C32G1 32" :: Seagate FireCuda 530 1TB :: Deepcool Matrexx 55
NAS: SM X10-SLM-F :: Mellanox Connect2X SFP+ :: Intel XL710-QDA1 QSFP+

Permalänk
Medlem

Utmärkt info och beskrivande bilder! Jag gillar det!

Permalänk
Inaktiv

Najs bygge!

Permalänk
Medlem

Mumsigt! Avis på ditt 10 Gb/s-kort, och ECC vill jag också ha i min server.

En i3 med stöd för ECC!? Det var en stor överraskning för min del, då jag trodde att det bara var Xeon-snurror som hade det.

Edit: En sak till förresten, "IBM M1015 och flashade det till IT-firmware". Vad är detta "IT"-firmware för något? Jag är ute efter något sådant i kontrollerkortsväg nämligen.

Visa signatur

5950X, 3090

Permalänk
Hedersmedlem
Skrivet av backfeed:

Mumsigt! Avis på ditt 10 Gb/s-kort, och ECC vill jag också ha i min server.

En i3 med stöd för ECC!? Det var en stor överraskning för min del, då jag trodde att det bara var Xeon-snurror som hade det.

Edit: En sak till förresten, "IBM M1015 och flashade det till IT-firmware". Vad är detta "IT"-firmware för något? Jag är ute efter något sådant i kontrollerkortsväg nämligen.

Jo, 10 GbE är trevligt, men det ska fungera bra också. Kommer posta när jag får till stabila resultat med kortet.

Jepp, hade också glömt bort när jag gjorde research att vissa Core i3-modeller stödjer ECC. Standard 1150-Xeon-modellen har ju TDP på 80W och uppåt, rätt smidigt att kunna köra en i3:a på 35/50 W istället.

IBM M1015 är egentligen bara ett rebrandat LSI Logic SAS2008-baserat kort. Som standard kommer det med en RAID-firmware där det krävs att du skapar en array för att operativsystemet ska se diskarna, det fungerar alltså inte som en normal kontroller. Genom att flasha från en "IR"-firmware till en "IT"-firmware blir kontrollerkortet ett "dumt" HBA som bara passar vidare information till OS:et och därmed blir det också ruskigt prisvärt då man pröjsar cirka 100 kronor per port. Det blir också idealiskt för FreeBSD/FreeNAS.

Det är heller inga problem att köra t.ex. 4 SSD:s i RAID då det stödjer både SATA/SAS 6 Gbit/s samt har en praktisk överföringshastighetstak på cirka 2.2 GB/s. Det finns otaliga guider på nätet hur man flashar kortet, jag har själv skrivit en i syfte att komma ihåg proceduren här.

Visa signatur

SWECLOCKERS.COM :: If Quake was done today ::
WS: Gigabyte Z690 UD DDR5 :: Core i5 12600K :: 32 GB RAM :: Geforce RTX 3060 Ti :: 10 GbE NIC :: AOC C32G1 32" :: Seagate FireCuda 530 1TB :: Deepcool Matrexx 55
NAS: SM X10-SLM-F :: Mellanox Connect2X SFP+ :: Intel XL710-QDA1 QSFP+

Permalänk
Medlem
Skrivet av Kr^PacMan:

Jo, 10 GbE är trevligt, men det ska fungera bra också. Kommer posta när jag får till stabila resultat med kortet.

Jepp, hade också glömt bort när jag gjorde research att vissa Core i3-modeller stödjer ECC. Standard 1150-Xeon-modellen har ju TDP på 80W och uppåt, rätt smidigt att kunna köra en i3:a på 35/50 W istället.

IBM M1015 är egentligen bara ett rebrandat LSI Logic SAS2008-baserat kort. Som standard kommer det med en RAID-firmware där det krävs att du skapar en array för att operativsystemet ska se diskarna, det fungerar alltså inte som en normal kontroller. Genom att flasha från en "IR"-firmware till en "IT"-firmware blir kontrollerkortet ett "dumt" HBA som bara passar vidare information till OS:et och därmed blir det också ruskigt prisvärt då man pröjsar cirka 100 kronor per port. Det blir också idealiskt för FreeBSD/FreeNAS.

Det är heller inga problem att köra t.ex. 4 SSD:s i RAID då det stödjer både SATA/SAS 6 Gbit/s samt har en praktisk överföringshastighetstak på cirka 2.2 GB/s. Det finns otaliga guider på nätet hur man flashar kortet, jag har själv skrivit en i syfte att komma ihåg proceduren här.

Det är den här rackaren vi pratar om, antar jag?

En sådan + IT-firmware låter klart intressant, och till synes extremt prisvärt. Tackar för flashprocedurlänken, det verkar enkelt och fint.

Edit: eller den här? Skillnad!?

Visa signatur

5950X, 3090

Permalänk
Medlem

Är riktigt nyfiken på chassit, hur varma blir diskarna under belastning?

Permalänk
Hedersmedlem
Skrivet av backfeed:

Det är den här rackaren vi pratar om, antar jag?

En sådan + IT-firmware låter klart intressant, och till synes extremt prisvärt. Tackar för flashprocedurlänken, det verkar enkelt och fint.

Edit: eller den här? Skillnad!?

Det är samma produkt faktiskt, ena är ett standard-SKU och den andra är mig veterligen en "FRU - Field Replaceable Unit". IBM har ju lite lustiga artikelnummerscheman kan man tycka. Lenovo kör samma.

Om du använder min guide, se om det finns någon nyare firmware, det kan ha släppts en nyare.

Skrivet av w1per:

Är riktigt nyfiken på chassit, hur varma blir diskarna under belastning?

De ligger på cirka 35-40 grader just nu. Då har jag 7v-motstånd på de tre fläktarna inuti chassit. Med effektivare fläktar i 12V lär man kunna få ner det betydligt. Sedan har jag en del äldre 7200 RPM-diskar i slädarna vilket producerar en hel del värme. Kör man bara "green"-diskar med 5400/5900 RPM lär det bli kyligare. Jag har själv planerat att köpa två stycken perforerade 2U-täckplåtar och sedan installera 3 stycken 80mm-fläktar som man sätter under och över för att kyla ytterligare. Sedan har jag ju nätverkskortet som säkert drar 15-20 watt under belastning. Processorn är iskall vad jag märkt.

Visa signatur

SWECLOCKERS.COM :: If Quake was done today ::
WS: Gigabyte Z690 UD DDR5 :: Core i5 12600K :: 32 GB RAM :: Geforce RTX 3060 Ti :: 10 GbE NIC :: AOC C32G1 32" :: Seagate FireCuda 530 1TB :: Deepcool Matrexx 55
NAS: SM X10-SLM-F :: Mellanox Connect2X SFP+ :: Intel XL710-QDA1 QSFP+

Permalänk
Medlem
Skrivet av Kr^PacMan:

Det är samma produkt faktiskt, ena är ett standard-SKU och den andra är mig veterligen en "FRU - Field Replaceable Unit". IBM har ju lite lustiga artikelnummerscheman kan man tycka. Lenovo kör samma.

Om du använder min guide, se om det finns någon nyare firmware, det kan ha släppts en nyare.

Ok, tackar och bockar!

Jo, jag ska läsa på lite och ta den bästa firmware jag hittar.

Visa signatur

5950X, 3090

Permalänk
Medlem
Skrivet av Kr^PacMan:

Jo, 10 GbE är trevligt, men det ska fungera bra också. Kommer posta när jag får till stabila resultat med kortet.

Jepp, hade också glömt bort när jag gjorde research att vissa Core i3-modeller stödjer ECC. Standard 1150-Xeon-modellen har ju TDP på 80W och uppåt, rätt smidigt att kunna köra en i3:a på 35/50 W istället.

IBM M1015 är egentligen bara ett rebrandat LSI Logic SAS2008-baserat kort. Som standard kommer det med en RAID-firmware där det krävs att du skapar en array för att operativsystemet ska se diskarna, det fungerar alltså inte som en normal kontroller. Genom att flasha från en "IR"-firmware till en "IT"-firmware blir kontrollerkortet ett "dumt" HBA som bara passar vidare information till OS:et och därmed blir det också ruskigt prisvärt då man pröjsar cirka 100 kronor per port. Det blir också idealiskt för FreeBSD/FreeNAS.

Det är heller inga problem att köra t.ex. 4 SSD:s i RAID då det stödjer både SATA/SAS 6 Gbit/s samt har en praktisk överföringshastighetstak på cirka 2.2 GB/s. Det finns otaliga guider på nätet hur man flashar kortet, jag har själv skrivit en i syfte att komma ihåg proceduren här.

Hur är det med hårdvaruraid, är det påväg att dö ut och ersättas av mjukvaru? Jag är relativt oinsatt i just server-världen vad gäller både mjukvara & hårdvara så försöker att snappa åt mig så mycket som det bara går

Visa signatur

MAIN:   | 4770k | r9 290 tri-x OC | 16GB | Be Quiet Shadow Rock 2 | Corsair 350D | EVGA Supernova G2 850w |
HTPC:   | 4360 | 8GB | Scythe Shuriken Rev. B | Cooler Master Elite 120 |
Laptop: HP spectre x360

Permalänk
Hedersmedlem
Skrivet av Raffe:

Hur är det med hårdvaruraid, är det påväg att dö ut och ersättas av mjukvaru? Jag är relativt oinsatt i just server-världen vad gäller både mjukvara & hårdvara så försöker att snappa åt mig så mycket som det bara går

Jag har i alla tider varit förespråkare för hårdvaru-RAID. Det känns mer gediget på något sätt. Men när man inser fördelarna med blocksystem som ZFS hade jag inga större problem att slänga ut all hårdvaru-RAID över huvud taget. Det enda skälet att man vill köra hårdvaru-RAID nuförtiden är extrem prestanda möjligtvis. ZFS är extremt bra och skalbart, men med normala komponenter och kunskapsnivå är prestandan inte jättespännande - vad jag märkt hitills iaf.

Men säkerhet och redundans är viktigare än prestanda för mig personligen, speciellt om det gäller en filserver. Med de funktioner som ZFS erbjuder för långvarig säkerhet har jag aldrig känt mig mer säker på att min data inte försvinner plötsligt vilket hänt så många gånger sista 10 åren.

Visa signatur

SWECLOCKERS.COM :: If Quake was done today ::
WS: Gigabyte Z690 UD DDR5 :: Core i5 12600K :: 32 GB RAM :: Geforce RTX 3060 Ti :: 10 GbE NIC :: AOC C32G1 32" :: Seagate FireCuda 530 1TB :: Deepcool Matrexx 55
NAS: SM X10-SLM-F :: Mellanox Connect2X SFP+ :: Intel XL710-QDA1 QSFP+

Permalänk
Medlem

Nu är jag rätt newb vad det gäller servrar, men vad ger EEC minnen för fördel över "vanliga"? Rent spontant känns det som att du kommit billigare undan om du valt "konsumentdelar" istället för "serverdelar", och antagligen inte tappat 24/7/365 driftsäkerhet för den skull.

Permalänk
Hedersmedlem
Skrivet av Dallebull:

Nu är jag rätt newb vad det gäller servrar, men vad ger EEC minnen för fördel över "vanliga"? Rent spontant känns det som att du kommit billigare undan om du valt "konsumentdelar" istället för "serverdelar", och antagligen inte tappat 24/7/365 driftsäkerhet för den skull.

ECC är mer eller mindre idealiskt för ZFS generellt. I dagens datalagring finns det alltid risk för fel, det kan handla om dåligt minne eller hårddisken som på något sätt gör fel. Med icke-ECC-minne tror ZFS att filen är okey, även fast checksumman egentligen inte stämmer. Sådana fel kan således ligga aktiva under lång tid utan att någon märker något, förutom när man försöker använda filen. ECC-minne märker och reparerar sådana fel. Ska man bara lagra skitsaker som man inte är så rädd om kan det kanske vara värt att köra på konsument-komponenter, men ska man långtidslagra som jag har tänkt är det värt det, om bara så för att man kan sova gott om nätterna. Kostnaden för ECC RAM kontra vanligt minne är idag försumbar, så det enda som kostar mer än i princip moderkortet, något jag kom fram till när jag skissade på komponenterna till detta bygge.

Finns en betydligt bättre förklaring i denna tråd på FreeNAS-forumet.

Visa signatur

SWECLOCKERS.COM :: If Quake was done today ::
WS: Gigabyte Z690 UD DDR5 :: Core i5 12600K :: 32 GB RAM :: Geforce RTX 3060 Ti :: 10 GbE NIC :: AOC C32G1 32" :: Seagate FireCuda 530 1TB :: Deepcool Matrexx 55
NAS: SM X10-SLM-F :: Mellanox Connect2X SFP+ :: Intel XL710-QDA1 QSFP+

Permalänk
Medlem

Riktigt bra läsning!
Känns skönt att jag läser dina inlägg dagarna efter att jag gjorde min beställning
Har nämligen köpt exakt samma moderkort, X10SLM-F efter några månaders research och planering...
2 st IBM m1015 började jag med för ett halvår sedan att labba med tillsammans med konsumentprylar, men nu är det som sagt dags för att bygga ihop en "riktig" server för hemmabruk!

Håll utkik efter ett till galleri inom kort med dessa prylar, ZFS och FreeNAS

Visa signatur

Stationär: Intel Core i7 3770k @ 4,3GHz [Phanteks PH-TC14PE] | Asus P8Z77-V LX | 16GB DDR3 | GeForce GTX760 2GB | Samsung 840 EVO 500GB SSD | Corsair HX650 | Scythe Kaze Master II Skärmar: Asus MG278Q | AG Neovo L-W27
Bärbar: Lenovo X240 | Intel Core i7 | 256GB SSD | 8GB | 12.5" FHD touch | 4G
Server: 2x HP DL380 G7 | Intel Xeon L5640 | håller på att handla...

Permalänk
Medlem

Alltid lika kul att läsa om dina byggen Herman.

Visa signatur

Medlem #14

Permalänk

Mycket bra skrivet och väl genomtänka svar Tack!

Permalänk
Medlem

Mycket trevlig läsning!

Visa signatur

Xiaomi 34" UltaWide | AMD 3600 | BeQuite Black | 16GB DDR4 | GTX 1070 |

Permalänk
Skrivet av Kr^PacMan:

Sedan har jag ju nätverkskortet som säkert drar 15-20 watt under belastning. Processorn är iskall vad jag märkt.

Egentligen inget viktigt påpekande, men nätverkskortet brukar dra lika mycket oavsett vad det gör. I vissa (konstiga fall) kan nätverkskort förbruka mindre när de skickar data än när de ligger i idle-mode. Generellt sett har nätverksutrustning väldigt taskiga energisparfunktioner. Många nätverksswitchar förbrukar lika mycket oavsett last eller hur många portar som är inkopplade.

Kan posta referenser till studier som tagit upp detta, men skolans inloggningssystem för att komma åt publikationer verkar ligga nere.

Visa signatur

Citera, tack!
Har du läst tråden om strandhögtalare och andra musiklådor?

Permalänk
Hedersmedlem
Skrivet av blomqvist:

Egentligen inget viktigt påpekande, men nätverkskortet brukar dra lika mycket oavsett vad det gör. I vissa (konstiga fall) kan nätverkskort förbruka mindre när de skickar data än när de ligger i idle-mode. Generellt sett har nätverksutrustning väldigt taskiga energisparfunktioner. Många nätverksswitchar förbrukar lika mycket oavsett last eller hur många portar som är inkopplade.

Kan posta referenser till studier som tagit upp detta, men skolans inloggningssystem för att komma åt publikationer verkar ligga nere.

Kikade faktiskt upp det, och det visade sig att kortet maximalt förbrukar 6.5 Watt. Tänkte nog på mina gamla Adaptec 4-portars PCI-X-nätverkskort, de blir varma som attans och drar ruskigt mycket energi.

(Källa: SuperMicro)

Skulle vara intressant att testa med min nya switch, gissar endå att icke RJ45-enheter drar lite mer energi när de överför data, speciellt om det är 10 GbE. Jag har live-visning av aktuell strömförbrukning på racket, så det kan vara värt att testa om man kör iperf på alla fyra CX4-portar jag har i den exempelvis.

Visa signatur

SWECLOCKERS.COM :: If Quake was done today ::
WS: Gigabyte Z690 UD DDR5 :: Core i5 12600K :: 32 GB RAM :: Geforce RTX 3060 Ti :: 10 GbE NIC :: AOC C32G1 32" :: Seagate FireCuda 530 1TB :: Deepcool Matrexx 55
NAS: SM X10-SLM-F :: Mellanox Connect2X SFP+ :: Intel XL710-QDA1 QSFP+

Permalänk
Medlem

1. Det saknas prylar i komponentlistan, bla diskkontrollerkortet, kan du skriva in priser, tack
2. Dammfilter, hur löser du det?
3. Kan du använda SSD som cache i FreeNAS?
4. Hur e ljudnivån
5. Varför inte ha FreeNAS på bootbar USB, så spar du en SATA-port till annat
6. Man hittar ibland billiga 2U-chassin m. PSU på tex. blocket, vad skiljer dessa från den du köpt?
7. Ser ut som om diskkylningen är underdimensionerad, skulle jag köra 12 st WD Black i det där chassit så hamnar man lätt >50C. Ser snålt ut för inluften att komma in i de där små hålen. Modda?
8. Hur mycket RAM behövs egentligen för zfs/raidz1, prestanda ställt mot storlek, typ?

Permalänk
Hedersmedlem
Skrivet av jookeer:

1. Det saknas prylar i komponentlistan, bla diskkontrollerkortet, kan du skriva in priser, tack

Skrev in kontrollerkort i komponentlistan.

Ungefärliga priser:
Moderkort: 1500:-
Processor: 1100:-
RAM: 2100:-
Nätagg: 400:-
Chassi (m. frakt): 2500:-
Kontrollerkort: 800:-
Diskar (3x4TB): 4500:-

Citat:

2. Dammfilter, hur löser du det?

I mitt serverrum har jag en jonisator, som gör att damm blir ett hyfsat minimalt problem. Chassit har inga egna dammfilter men ser jag att det blir ett problem i framtiden så kan jag rätt enkelt sätta in dammfilter framför dem.

Citat:

3. Kan du använda SSD som cache i FreeNAS?

Nej, jag använder den inte som L2ARC/ZIL idag, men jag använder den som en jail-disk samt iSCSI-target för små säkerhetskopior från webservern (cirka 10 GB i skrivande stund). Jag har dock planer på att sätta in en till SSD och använda som ZIL, undersöker hur mycket jag egentligen skulle tjäna på det atm.

Citat:

4. Hur e ljudnivån

Ljudnivån var initialt med fyra originalfläktar lite för hög, så jag satte dit 7v-motstånd på de återstående 3 fläktarna. Jag har svårt att bedömma ljudnivån då serverns ljud dränks av annat i serverrummet, men den låter nog som en vanlig kontorsdator gissar jag, inte speciellt högt. Intel-originalfläkten är i princip ljudlös och nätagget likaså.

Citat:

5. Varför inte ha FreeNAS på bootbar USB, så spar du en SATA-port till annat

Jag använder en Sandisk Cruzer Micro 8 GB för att boota FreeNAS.

Citat:

6. Man hittar ibland billiga 2U-chassin m. PSU på tex. blocket, vad skiljer dessa från den du köpt?

Ptja, det beror helt på vilka du hittat. Normalt har äldre chassin exempelvis redundanta agg som drar enorma mängder energi och har riktigt högljudda 40-millimetersfläktar i sig. Fördelen med att bygga allting från scratch är att man helt kan välja komponenter.

Citat:

7. Ser ut som om diskkylningen är underdimensionerad, skulle jag köra 12 st WD Black i det där chassit så hamnar man lätt >50C. Ser snålt ut för inluften att komma in i de där små hålen. Modda?

Skulle man köra 12 stycken WD Black så skulle man nog behöva mer kylning än de fyra originalfläktarna möjligtvis. Eftersom chassit är så pass litet blir det varmt fort, men även att en fläkt kan göra stor skillnad. Jag har ju främst lågvarviga diskar och i skriande stund är det ingen som är över 40 grader.

Än så länge är jag mycket nöjd med temperaturerna, de ligger kanske 3-4 grader för högt på nätterna, men i övrigt har jag inget att klaga på. Jag planerar som sagt att köpa perforerade 2U-rackplåtar och sedan sätta 2-3 80mm-fläktar som ska sitta både under och över för att transportera bort värmen. Just nu "ligger" chassit på ett annat chassi i racket vilket inte är optimalt heller, det mest effektiva är om det sitter minst 2U från något anant chassi i sina rails (är på min ToDo-lista atm)

Citat:

8. Hur mycket RAM behövs egentligen för zfs/raidz1, prestanda ställt mot storlek, typ?

FreeNAS själva rekommenderar minst 8 GB om man planerar att köra ZFS. Det är ju ett rätt annorlunda blocksystem och även fast jag bara har cirka 15 TB användbart utrymme med ett par jails så har jag normalt bara cirka 2-4 GB ledigt minne, ZFS "suger upp" resten så att säga. Det är en rätt annorlunda arkitektur jämfört med NTFS exempelvis. Personligen skulle jag aldrig satsa på under 16 GB så länge man planerar att köra mer än ett par terabyte data. ECC är dock möjligen viktigare än storlek (hellre 8 GB ECC än 16 GB UDIMM alltså).

Visa signatur

SWECLOCKERS.COM :: If Quake was done today ::
WS: Gigabyte Z690 UD DDR5 :: Core i5 12600K :: 32 GB RAM :: Geforce RTX 3060 Ti :: 10 GbE NIC :: AOC C32G1 32" :: Seagate FireCuda 530 1TB :: Deepcool Matrexx 55
NAS: SM X10-SLM-F :: Mellanox Connect2X SFP+ :: Intel XL710-QDA1 QSFP+

Permalänk
Medlem

Fasiken, det har hänt en del sen kr^lan tiderna.

Visa signatur

Skräddaren säger nej.

Permalänk
Medlem

Riktigt nice bygge! Jag sitter själv och funderar på just det chassit. Tvekade lite förut angående ZFS och IBM-M1015 tillsammans med hotswap-bakplan. Men i ditt fall verkar hårddiskarna hittas alldeles utmärkt. Det är en detalj kvar dock innan det så småningom kan bli köp, fungerar hotswap? Upptäcker datorn den nya disken och kan du lägga till den helt normalt i din zpool?

Permalänk
Medlem
Skrivet av traebit:

Riktigt nice bygge! Jag sitter själv och funderar på just det chassit. Tvekade lite förut angående ZFS och IBM-M1015 tillsammans med hotswap-bakplan. Men i ditt fall verkar hårddiskarna hittas alldeles utmärkt. Det är en detalj kvar dock innan det så småningom kan bli köp, fungerar hotswap? Upptäcker datorn den nya disken och kan du lägga till den helt normalt i din zpool?

Jag har testat det på min maskin (dock ett annat kontrollerkort, men med FreeNAS). Fungerar utmärkt.

Visa signatur

Jag är en optimist; det är aldrig så dåligt så att det inte kan bli sämre.

Permalänk
Medlem

Shysst! kommer titta närmare på den här när jag ska uppgradera min NAS.

Permalänk
Hedersmedlem

Najs! Jag gillar chassit! Kör själv med en Norco-låda, men det här ser ju riktigt prisvärt och fint ut. Kör inte mer än tio disk ändå..

Välgenomtänkt och planerat bygge. Kör du saker som behöver 10GbE eller är det mer en framtidssäkring? Tycker 1Gb räcker fint hemma hos mig.

Visa signatur

yayaya I am Lorde yayaya

Permalänk
Medlem

8. Ang. 32GB RAM. Man kan ju undra hur zfs är konstruerat för att vara så kopiöst RAM-hungrigt. Själv kör jag några chipsetRAID5:or på 2GB RAM och har aldrig prestandaproblem, skrivning till arrayen motsvara singledisk och läsning 350-450 MB/s. Av detta framgår att Windows+intels ichxr knappast drar nån större nytta av RAM till interna prestandacachar.

Så, va f..n gör zfs med allt det dära RAMet? Annorlunda vore det på en megabrontofilserver med 10 000 tals köade I/O's (typ youtube, amazon etc.) men 32GB för en singleanvändare i hemmiljö? Mysko.

Jag menar, moderna OS har ju page- och swapteknik då RAMet tar slut. Å inte nog me det, idag finns snabba SSD'er som kan användas som cache om/när RAMet tar slut. Borde finnas rätt stor förbättringspotential för utvecklarna på den här punkten.

Så något annat.

9. Har du jämfört FreeNAS med NAS4Free? Och isf vad kom du fram till?

Permalänk
Medlem
Skrivet av Dallebull:

Nu är jag rätt newb vad det gäller servrar, men vad ger EEC minnen för fördel över "vanliga"? Rent spontant känns det som att du kommit billigare undan om du valt "konsumentdelar" istället för "serverdelar", och antagligen inte tappat 24/7/365 driftsäkerhet för den skull.

Man köper bara leksaksprylar (desktopkomponenter) för ett riktigt bygge om man är tämligen korkad.

Visa signatur

WS: R7 5800X, 32GB, Suprim X 3080, Acer X38P+Acer XB271HU
FS: HPE ML110 Gen10 Xeon Silver, Qnap TS-h973AX ~100TB
NW: Fortigate, Ruckus, Zyxel XS1930HP 10Gb

Permalänk
Medlem
Skrivet av Raffe:

Hur är det med hårdvaruraid, är det påväg att dö ut och ersättas av mjukvaru? Jag är relativt oinsatt i just server-världen vad gäller både mjukvara & hårdvara så försöker att snappa åt mig så mycket som det bara går

Nä, det håller inte på att dö ut.
Däremot har sw raid blivit ett alternativ i vissa situationer.

Visa signatur

WS: R7 5800X, 32GB, Suprim X 3080, Acer X38P+Acer XB271HU
FS: HPE ML110 Gen10 Xeon Silver, Qnap TS-h973AX ~100TB
NW: Fortigate, Ruckus, Zyxel XS1930HP 10Gb

Permalänk
Hedersmedlem
Skrivet av charmless:

Fasiken, det har hänt en del sen kr^lan tiderna.

Det har det verkligen. Vi hade ju nyligen ett "Gubb LAN" i "Kr"-anda och planerar att genomföra något liknande evenemang nu i vår.

Skrivet av traebit:

Riktigt nice bygge! Jag sitter själv och funderar på just det chassit. Tvekade lite förut angående ZFS och IBM-M1015 tillsammans med hotswap-bakplan. Men i ditt fall verkar hårddiskarna hittas alldeles utmärkt. Det är en detalj kvar dock innan det så småningom kan bli köp, fungerar hotswap? Upptäcker datorn den nya disken och kan du lägga till den helt normalt i din zpool?

Jag har inte testat om hotswap fungerar, kan göra det och återkomma!

Skrivet av CCWarlock:

Najs! Jag gillar chassit! Kör själv med en Norco-låda, men det här ser ju riktigt prisvärt och fint ut. Kör inte mer än tio disk ändå..

Välgenomtänkt och planerat bygge. Kör du saker som behöver 10GbE eller är det mer en framtidssäkring? Tycker 1Gb räcker fint hemma hos mig.

Jepp, det är en prisvärd låda. Norco är nog dock generellt mer robusta skulle jag spontant säga.

Att jag skaffade 10 GbE var främst för att jag hade tröttnat på 1 Gbit, tyckte överföringarna gick för segt, speciellt om man överförde mellan två SSD:s. Eftersom jag kör ZFS på denna filserver har inte överföringshastigheterna varit sådär super, men jag har ju andra Windows-baserade servrar med NTFS där farten är betydligt bättre. Det största problemet är att dra CX4-kablarna i lägenheten, de är inte lika böjbara som TP-kablar tyvärr.

Skrivet av jookeer:

8. Ang. 32GB RAM. Man kan ju undra hur zfs är konstruerat för att vara så kopiöst RAM-hungrigt. Själv kör jag några chipsetRAID5:or på 2GB RAM och har aldrig prestandaproblem, skrivning till arrayen motsvara singledisk och läsning 350-450 MB/s. Av detta framgår att Windows+intels ichxr knappast drar nån större nytta av RAM till interna prestandacachar.

Så, va f..n gör zfs med allt det dära RAMet? Annorlunda vore det på en megabrontofilserver med 10 000 tals köade I/O's (typ youtube, amazon etc.) men 32GB för en singleanvändare i hemmiljö? Mysko.

Jag menar, moderna OS har ju page- och swapteknik då RAMet tar slut. Å inte nog me det, idag finns snabba SSD'er som kan användas som cache om/när RAMet tar slut. Borde finnas rätt stor förbättringspotential för utvecklarna på den här punkten.

Så något annat.

9. Har du jämfört FreeNAS med NAS4Free? Och isf vad kom du fram till?

ZFS är gjort för att skala på i princip vilka deployments som helst. Det har även jäkligt avancerade inbyggda checksumshantering och liknande, vilket gör att overheaden på själva blocksystemet blir rätt hög. ZFS allokerar i princip allt RAM man har i burken och använder det för att snabba upp interna funktioner och att använda som skrivcache. Jag skulle nog klara mig hyfsat bra på 8 GB exempelvis, men eftersom jag vill testa 10 GbE-prestanda samt kunna ha en mängd funktioner (jails och funktioner direkt i det underliggande FreeBSD-systemet) valde jag att köra på 24 GB från början.

ZFS har ju också swapteknik i form av ZIL/L2ARC som kan snabba upp prestandan i vissa scenarion, och för dessa använder man primärt SSD:s. Undersöker just nu om det är värt att köpa en 64 GB SSD och använda som ZIL för att snabba upp just skrivhastigheten.

Jag har testat både FreeNAS och Nas4Free på denna burk men bestämde mig för det förstnämnda då det har en mycket mer aktivare community samt har större utvecklingspotential. Själva funktionerna är väldigt lika mellan operativsystemen, men gillar webbgränssnittet mer i FreeNAS, samt att det har en smidigare och bättre hantering av plusins.

Skrivet av _niko_:

Man köper bara leksaksprylar (desktopkomponenter) för ett riktigt bygge om man är tämligen korkad.

För många hemmaservrar duger desktopkomponenter utmärkt, det ser man bland annat på diverse appliances från tillverkare som använder relativt vanliga komponenter, även Cisco, HP, och så vidare. Men för ett blocksystem som ZFS är det bäst att exempelvis köra på ECC-minnen vilket minimerar risken för "silent" korruption och liknande.

Visa signatur

SWECLOCKERS.COM :: If Quake was done today ::
WS: Gigabyte Z690 UD DDR5 :: Core i5 12600K :: 32 GB RAM :: Geforce RTX 3060 Ti :: 10 GbE NIC :: AOC C32G1 32" :: Seagate FireCuda 530 1TB :: Deepcool Matrexx 55
NAS: SM X10-SLM-F :: Mellanox Connect2X SFP+ :: Intel XL710-QDA1 QSFP+