PDA

Archiv verlassen und diese Seite im Standarddesign anzeigen : RAID 5 mit 12 Platten und 700 MB/s?



Seiten : [1] 2 3

nobody0
25.06.06, 21:13
Ich brauche ein RAID 5 mit maximal 12 Platten für 700 MB/s (schreibend).
Welche RAID-Kisten schaffen das? :confused:

HEMIcuda
25.06.06, 21:17
Darf ich nochmal in den Keller gehen?

'cuda

stefan-tiger
25.06.06, 21:38
http://www.usedcpq.de/raid-arrays.0.html

oder auch IBM TotalStorage DS4100 Model 1SC Disk System

bla!zilla
25.06.06, 22:15
oder auch IBM TotalStorage DS4100 Model 1SC Disk System

Hast du das über Google gefunden? Hast du eine FastT überhaupt schon mal in Natura gesehen?


Ich brauche ein RAID 5 mit maximal 12 Platten für 700 MB/s (schreibend).
Welche RAID-Kisten schaffen das? :confused:

Also 700 MB/s schreiben wirst du in einem RAID 5 bei 12 Platten nie schaffen. Sorry. Das wären 50MB/s pro Platte bei RAID 5.

Zudem: Sind die 700MB/s sequential oder random write I/O? Was du brauchst: Viele Platten, mehrer I/O Kanäle und ein LVM. Dann könntest du das hinbekommen. Eine größere Installation bei einem größeren Forschungszentrum brauchte eine aggregierte I/O Bandbreite von 1,6 GB/s. Da waren es am Ende 8 Storagesysteme mit jeweils 90 Platten und jeweils vier Host-Ports mit jeweils 2 GB/s Fibre-Channel. Ist zwar eine Milchmädchenrechnung, aber du kannst dir ja jetzt leicht ausrechnen was du bräuchtest. ;) Ach ja, die nutzen RAID 5 in Verbindung mit IBM GPFS.

nobody0
26.06.06, 07:50
Also 700 MB/s schreiben wirst du in einem RAID 5 bei 12 Platten nie schaffen. Sorry. Das wären 50MB/s pro Platte bei RAID 5.

Zudem: Sind die 700MB/s sequential oder random write I/O?

Die 50 MB/s sollten kein Problem sein mit 15k5-SAS-Platten, 3,5". Das Hauptproblem ist bisher, das der Controller der Flaschenhals ist.

Die 700 MB/s sind sequential.

HEMIcuda
26.06.06, 09:35
Mit 50MB/s komme ich nur auf 600MB/s bei RAID0. Selbst wenn die Platten 70MB/s schaffen wuerden, wuerde man diese Datenrate gerademal theoretisch erreichen, wobei sich mir die Frage stellt, warum man ueber 12 Platten ein RAID5 aufziehen will (wenn's geht auch noch ohne Hot-Spare?). Mit Ausfallsicherheit ist es da naemlich auch nicht weit her.

'cuda

nobody0
26.06.06, 10:15
Bei im Worst Case (innere Zylinder) 70 MB/s komme ich mit 12 Platten auf 840 MB/s gesamt-Bandbreite. Da einmal (1/12) Parity beim RAID5 dabei ist, komme ich auf 770 MB/s.
Naja, mit 14 Platten geht's notfalls auch, aber 12 wären mir lieber.

HEMIcuda
26.06.06, 10:26
Und wenn Dir eine Platte abraucht, kommt beim Rebuild mit ziemlicher Sicherheit gleich die naechste. Gesundheit.

'cuda

marce
26.06.06, 10:29
das nennt sich "Ausfallsicherheit" - es fällt mit Sicherheit was aus...

*duck*

frankpr
26.06.06, 11:17
http://www.usedcpq.de/raid-arrays.0.html
Wie viel MB/s ist denn ein Gigabit/s? Wohl ganz leicht am angepeilten Ziel vorbei.;)

marcdevil
26.06.06, 12:17
Die 50 MB/s sollten kein Problem sein mit 15k5-SAS-Platten, 3,5". Das Hauptproblem ist bisher, das der Controller der Flaschenhals ist.
im theoretisch optimalen fall bist du mit 2 U320 Controllern immernoch nicht bei 700 MB/s. also doch eher 4 raid5 Controller (mit mindestens 5 Platten) zusammengefasst als raid0? also in der summe mindestens 20 Platten.
wenns nicht an die 700 MB/s ranreicht einfach mehr platten in die raid5 packen.
welchen systembus hast du? http://www.fmnetztechnik.de/hardware_service.htm
Für was brauchst du 700 MB/s?

bla!zilla
26.06.06, 14:31
Kinder, vergesst es doch einfach. Ihr redet hier von theoretischen Werten, Controller usw. Hat irgendjemand von euch schon mal damit zu tun gehabt? Ihr redet von RAID 5. Schon mal was von write-penalty gehört? Na ja, macht ihr mal. :p Aus der Praxis kann ich sagen: Vergesst es. Wenn ihr 700MB/s haben wollt, dann braucht ihr schon ein etwas anderes Kaliber an Hardware.

HEMIcuda
26.06.06, 14:42
Lass sie doch traeumen. Frueher oder spaeter bekommen sie schon noch mit, dass man ab und an etwas grosszuegiger dimensionieren muss, als auf Kante zu naehen.

'cuda

marcdevil
26.06.06, 15:13
Kinder, vergesst es doch einfach.
ja opa, bitte sag ihm doch bitte einfach was erbraucht.
4 U320-Controller mit Raid10 (je 8 Platten) zu raid0 (per lvm) = 32 Platten
oder mehr?

du würdest ihm warscheinlich einen BlueGene verkaufen wollen ;)

bla!zilla
26.06.06, 16:02
ja opa, bitte sag ihm doch bitte einfach was erbraucht.
4 U320-Controller mit Raid10 (je 8 Platten) zu raid0 (per lvm) = 32 Platten
oder mehr?

Also damals, 13/14, als wir in den belgischen Ardennen lagen....

Okay, Spaß beiseite. Der OP braucht 700MB/s sequential write I/O. Das ist schon eine fette Hausnummer. Die braucht er als RAID 5. Nun hat RAID 5 ja bekanntlich eine wirklich miese write performance, bedingt durch die sog. write penalty (Block lesen, Parity lesen, berechnen, schreiben hin und her). Also müssen ´mer die Last verteilen. RAID 5 ist okay, aber das muss kombiniert werden. Was wir brauchen sind viele Spindeln, wir müssen die Last verteilen. Pro 12 Platten würde ich eine Spare-Disk vorsehen. Die von euch angesprochenen 320MB/s pro Controller könnt ihr knicken. Das ist das theoretische Limit, das schafft kein Controller. Fassen wir zusammen:

- wir brauchen viele Platten
- wir brauchen viele Controller
- wir brauchen ein LVM

So ad hoc fällt mir keine passende Konfig ein, aber ich würde es mal mit 5 bis 6 U320 RAID Controllern versuchen, pro RAID Controller 6 Platten (5 als RAID inkl. einer Spare). Das alles über ein LVM stripen. Dann müsste man da mal mit Blockgrößen experimentieren. Vor allem aber müsst ihr es schaffen alle Controller und Kanäle auszulasten und nicht nur einen Teil. 700MB/s sind bei einem normalen Server nicht zu schaffen. Da braucht man Storagesysteme für - und dann nicht nur eins. Aber ohne genaue Angaben des OPs wird das nix.

nobody0
05.07.06, 11:18
Ok, so wie es aussieht, brauche ich wohl 16 Platten, aber damit schafft man die 700 MB/s locker mit verschiedenen RAID-Boxen, die über sowas wie 4xSAS oder Fibrechannel angeschlossen sind.
Mal sehen, ob die ständig benötigten 700 MB/s auch im degraded Mode
geschafft werden ...

bla!zilla
05.07.06, 20:32
Ok, so wie es aussieht, brauche ich wohl 16 Platten, aber damit schafft man die 700 MB/s locker mit verschiedenen RAID-Boxen, die über sowas wie 4xSAS oder Fibrechannel angeschlossen sind.
Mal sehen, ob die ständig benötigten 700 MB/s auch im degraded Mode
geschafft werden ...

Welcher Hersteller garantiert dir die 700MB/s mit 16 Platten? Meinst du mit "4xSAS oder Fibrechannel" die Anzahl der Hostports? Welche HBAs bei welchem Bussystem?

nobody0
06.07.06, 07:55
Welcher Hersteller garantiert dir die 700MB/s mit 16 Platten? Meinst du mit "4xSAS oder Fibrechannel" die Anzahl der Hostports? Welche HBAs bei welchem Bussystem?

Garantieren tut praktisch kein Hersteller etwas; die Zahlen bekommt man meist nur mit eigenen Messungen über über confidential-Papers einiger Hersteller.
4xSAS ist ist das übliche, also 1x Buchse/Stecker mit 4 SAS-Kanälen und es gibt Fiberchannel ja auch 4x.

bla!zilla
06.07.06, 11:31
Garantieren tut praktisch kein Hersteller etwas; die Zahlen bekommt man meist nur mit eigenen Messungen über über confidential-Papers einiger Hersteller.

Na wenn du das sagst... :rolleyes:



4xSAS ist ist das übliche, also 1x Buchse/Stecker mit 4 SAS-Kanälen und es gibt Fiberchannel ja auch 4x.

Was zum Henker ist 4x Fibre-Channel? Bitte mal für mich als Storage-Laien erklären.

nobody0
06.07.06, 14:09
Was zum Henker ist 4x Fibre-Channel? Bitte mal für mich als Storage-Laien erklären.

Das sieht bei der Karte so aus:


http://www.lsilogic.com/images/lsi2004/products/storage_adapters/host_bus_adapters/fibre_channel/iti7004g2lc.jpg

Edit: So, das Bild kommt besser hin.

bla!zilla
06.07.06, 16:34
*kicher*

Dann erkläre ich dir jetzt mal als Storage-Laie das es sich bei der Karte um einen "popeligen" Dual-Port 2GB FC-HBA handelt. Vergleichbar mit diesem (http://h18006.www1.hp.com/products/quickspecs/11620_div/11620_div.html) hier. Einziger Unterschied: Da sitzt noch ein Hub mit drauf, so das du jeweils zwei Ports pro HBA hast, und nicht wie beim FCA-2214DC ein Port pro HBA. Das ist aber eher als Redundanz gedacht. Zudem musst du in diesem Fall die (theoretischen) 400MB/sec pro Kanal auch über das Bussystem bekommen usw. Zudem lässt das Wort "Hub" bei mir die Alarmglocken klingen. Das klingt schon wieder sehr nach FC-AL oder Fabric-Loop. Aber gut. Bastel mal und dann berichte mal was du hinbekommen hast.

Die Borg
06.07.06, 22:26
Ein entsprechend teurer 16x 16xPCIe S-ATA Controller mit der passenden Switchbandbreite und du bekommst die 700MB/s locker hin. Sehe ich eigentlich kein Problem.

bla!zilla
06.07.06, 22:36
Ja neee, is klar. Lauter Experten hier. Wenn das alles so einfach wäre, warum kann hier keiner eine fertige Lösung präsentieren. Hier wird nur von "müsste klappen", "sollte passen", von den "confidential-Papers einiger Hersteller" usw. gesprochen. Und offensichtlich garantiert es auch kein Hersteller, zumindest nicht so wie es sich der OP vorstellt. Ich hatte bereits was zu einer Lösung geschrieben welche die 700MB/s schafft. Aber von den anderen "Experten" hier habe ich nix gehört.

Bezüglich des Controllers: Du denkst dabei an sowas wie den SuperTrak EX16350 von Promise, gell? Na ja, ein RAID 5 kann dort nur 3 bis 8 Platten umfassen. Er braucht zwei Controller im System um 16 Platten zu befeuern und die 256MB Cache sind doch etwas wenig, wenn 700MB/s erreicht werden sollen.

nobody0
06.07.06, 23:37
Mit einem Controller wird das kaum funktionieren; so wie es aussieht, braucht man eine RAID-Box, die einen leistungsfähigen Controller hat.
Eine Karte allein reicht wohl nicht.
Und als Platten dachte ich an 15k4 oder 15k5 SAS-Platten.

bla!zilla
07.07.06, 10:17
Der eigene Controller in der Box bringt dich aber auch nicht weiter. In der iX 03/2006 war interessanter Bericht zu SAS Controllern, da wurden auch zwei JBODs getestet. Hast du denn jetzt mal einen Hersteller gefunden der 700MB/s schreibend mit 16 Platten schafft?

nobody0
07.07.06, 15:28
Ja, Petastor, Infotrend usw.; die sollten zumindest 600 MB/s in RAID5 schreibend schaffen.
In RAID0 sollten es 800 MB/s sein.

HEMIcuda
07.07.06, 15:30
Hach ja... Konjunktive... na dann melde ich doch schonmal meine Zweifel an.

'cuda

bla!zilla
07.07.06, 17:35
Ja, Petastor, Infotrend usw.; die sollten zumindest 600 MB/s in RAID5 schreibend schaffen.
In RAID0 sollten es 800 MB/s sein.

Klingt für mich nach "hätte", "wäre", "wenn". Ich kenne selber Whitepapers und ich weiß wie ich sie zu lesen habe. Im Zweifelsfall ist das nämlich die Performance der Controller / ASCIs, nicht das was das Plattensubsystem liefert. :)

Welches Gerät soll denn bei Infortrend 600MB/s sequential write I/O schaffen? Das schnellste Ding von denen, was ich mal in den Fingern hatte, war das R2021 (16 Platten auf 3U mit redundantem Controller). Das kam bei Tests auf rund 650MB/s sequential read und 450MB/s sequential write bei einem RAID 5 (End-to-End). Das lag damals nah an den Maximalwerten. Und das ist ein FC-FC Array. Das S12F-R1420 ist etwas schneller (warum auch immer - ist AFAIK neuer, andere ASICs / Controller). Das ist ein FC-SAS/SATA-II. Das kam bei 12 HDDs auf 700MB/s sequential reads und 500MB/s sequential write. Die Werte habe ich aber selber nicht erhoben, da hatte ich nur mal was gelesen, zudem wurden dabei alle vier Host-Ports genutzt.

Die Borg
07.07.06, 18:52
Ja neee, is klar. Lauter Experten hier. Wenn das alles so einfach wäre, warum kann hier keiner eine fertige Lösung präsentieren. Hier wird nur von "müsste klappen", "sollte passen", von den "confidential-Papers einiger Hersteller" usw. gesprochen. Und offensichtlich garantiert es auch kein Hersteller, zumindest nicht so wie es sich der OP vorstellt. Ich hatte bereits was zu einer Lösung geschrieben welche die 700MB/s schafft. Aber von den anderen "Experten" hier habe ich nix gehört.

Hauptsächlich wird das vielleicht daran liegen, dass nicht sehr viele in diesem Forum sein werden, die eine solche Lösung benötigen, bzw. einfach mal das Geld für eine solche aus dem Fenster werfen möchten.

bla!zilla
07.07.06, 18:55
Dafür lehnen sich hier aber einige sehr weit aus dem Fenster. :)