OVH Cloud OVH Cloud

Serveur Linux RAID-5 3ware

6 réponses
Avatar
Sam Przyswa
Bonjour,

Nous avons acheté un serveur Linux tout monté chez DataSwift équipé
d'une carte mère TYAN Thunder K8SR (S2881) bi-Opteron 1.6 Ghz et d'une
carte RAID 3ware avec 3 disques PATA de 160 Gb en RAID-5.

Avec un noyau Debian 2.4.27-2-686-smp le RAID freeze le système jusqu'à
40 secondes lors de montées en charge en lecture/écriture, par exemple
lors d'un updatedb et le load average 1mn monte jusqu'à 10.

Nous avons remonté l'info au support technique DataSwift qui après nous
avoir demandé de vérifier les versions firmware et driver qui étaient
les dernières disponibles, nous laisse dans la m.... alors qu'ils sont
en plus distributeurs 3ware, depuis c'est le silence radio malgré nos
nombreux mails, quant au téléphone on ne nous passe pas le service
technique.

Nous avons déjà installé cette même carte RAID sur d'autres machines
avec des noyaux 2.4 sans aucun problèmes et de bonnes performances.

Nous avons upgradé le noyau en 2.6.11 et les drivers 3ware en
développements, ceci supprime le problème du freeze mais les
performances restent très pauvres et le load average reste le même, un
iostat montre des performances correctes en écriture mais faibles en
lecture avec des await montant jusqu'à 1500 ms.

Tous vos conseils sont les bienvenus...

Merci d'avance.

Sam.

6 réponses

Avatar
Az Sam
"Sam Przyswa" a écrit dans le message de news:
db1q02$itj$
Bonjour,

Nous avons acheté un serveur Linux tout monté chez DataSwift équipé
d'une carte mère TYAN Thunder K8SR (S2881) bi-Opteron 1.6 Ghz et d'une
carte RAID 3ware avec 3 disques PATA de 160 Gb en RAID-5.

Avec un noyau Debian 2.4.27-2-686-smp le RAID freeze le système jusqu'à
40 secondes lors de montées en charge en lecture/écriture, par exemple
lors d'un updatedb et le load average 1mn monte jusqu'à 10.


Nous avons déjà installé cette même carte RAID sur d'autres machines
avec des noyaux 2.4 sans aucun problèmes et de bonnes performances.

Nous avons upgradé le noyau en 2.6.11 et les drivers 3ware en
développements, ceci supprime le problème du freeze mais les
performances restent très pauvres et le load average reste le même, un
iostat montre des performances correctes en écriture mais faibles en
lecture avec des await montant jusqu'à 1500 ms.

Tous vos conseils sont les bienvenus...



Juste des Pistes, je ne connais pas Linux, (pis de toute facon ce serait du logiciel)
:
- latence PCI ?
- conflit/partage avce une autre PCI qui garde la main ?
- Carte Raid defectueuse ? ( celle la ou le meme modele sur les autres PC ?)
- Connections ( ben oui ca arrive pas qu'aux autres ;-))
- Un des Durs defectueux ?
- Raid array correctement faite ? (refaire eventuellement si pb des l'achat)
- Drivers ?

--

Cordialement,
Az Sam.

Avatar
Emmanuel Florac
Le Wed, 13 Jul 2005 03:15:46 +0200, Sam Przyswa a écrit :


Tous vos conseils sont les bienvenus...


Les cartes 3Ware sont souvent sensibles aux problèmes pci. Votre CM est
PCI ou PCI-X? Essayez de mettre la carte dans différents slots PCI.
Vérifiez les messages relatifs au PCI au boot dans dmesg. Vérifiez les
IRQ.

--
Le commissaire : Comment vous appelez-vous?
Garance : Moi je ne m'appelle jamais, je suis toujours là. J'ai pas
besoin de m'appeler. Mais les autres m'appellent Garance, si ça peut
vous intéresser.
Prévert,"les enfants du Paradis".

Avatar
Sam Przyswa


Tous vos conseils sont les bienvenus...



Les cartes 3Ware sont souvent sensibles aux problèmes pci. Votre CM est
PCI ou PCI-X? Essayez de mettre la carte dans différents slots PCI.


La carte mère a 2 slots PCI-X 64bits jusqu'à 133Mhz. La carte RAID est
une 64bits à 66Mhz dans un boitier rackable 2U avec une riser card, nous
avons essayé SANS la riser et aussi dans le deuxième slot avec les mêmes
résultats.

Vérifiez les messages relatifs au PCI au boot dans dmesg. Vérifiez les
IRQ.


Voila ce que donne /proc/interrupts

CPU0 CPU1
0: 92259 52329051 IO-APIC-edge timer
7: 0 0 IO-APIC-edge parport0
8: 1 0 IO-APIC-edge rtc
9: 0 1 IO-APIC-level acpi
14: 0 6 IO-APIC-edge ide0
15: 12684 2904878 IO-APIC-edge ide1
169: 2732 1223273 IO-APIC-level 3w-xxxx
177: 2190 786202 IO-APIC-level eth0
185: 0 1 IO-APIC-level eth1
193: 0 0 IO-APIC-level ohci_hcd, ohci_hcd
NMI: 0 0
LOC: 52426740 52426402
ERR: 0
MIS: 0

et quelques messages de dmesg:

ACPI: Subsystem revision 20050211
ACPI: Interpreter enabled
ACPI: Using IOAPIC for interrupt routing
ACPI: PCI Root Bridge [PCI0] (00:00)
PCI: Probing PCI hardware (bus 00)
ACPI: PCI Interrupt Routing Table [_SB_.PCI0._PRT]
ACPI: PCI Interrupt Routing Table [_SB_.PCI0.PCI1._PRT]
ACPI: PCI Interrupt Routing Table [_SB_.PCI0.GOLA._PRT]
ACPI: PCI Interrupt Routing Table [_SB_.PCI0.GOLB._PRT]
ACPI: PCI Interrupt Link [LNKA] (IRQs 3 4 *5 6 7 9 10 11 12 14 15)
ACPI: PCI Interrupt Link [LNKB] (IRQs 3 4 5 6 7 *9 10 11 12 14 15)
ACPI: PCI Interrupt Link [LNKC] (IRQs 3 4 5 6 7 9 10 *11 12 14 15)
ACPI: PCI Interrupt Link [LNKD] (IRQs 3 4 5 6 7 9 *10 11 12 14 15)
Linux Plug and Play Support v0.97 (c) Adam Belay
pnp: PnP ACPI init
pnp: PnP ACPI: found 13 devices
PnPBIOS: Disabled by ACPI PNP
PCI: Using ACPI for IRQ routing
** PCI interrupts are no longer routed automatically. If this
** causes a device to stop working, it is probably because the
** driver failed to call pci_enable_device(). As a temporary
** workaround, the "pci=routeirq" argument restores the old
** behavior. If this argument makes the device work again,
** please email the output of "lspci" to
** so I can fix the driver.

-----------------

SCSI subsystem initialized
3ware Storage Controller device driver for Linux v1.26.02.000.
ACPI: PCI interrupt 0000:01:05.0[A] -> GSI 30 (level, low) -> IRQ 169
scsi0 : 3ware Storage Controller
3w-xxxx: scsi0: Found a 3ware Storage Controller at 0xac00, IRQ: 169.
Vendor: 3ware Model: Logical Disk 0 Rev: 1.2
Type: Direct-Access ANSI SCSI revision: 00
SCSI device sda: 643341824 512-byte hdwr sectors (329391 MB)
SCSI device sda: drive cache: write back
SCSI device sda: 643341824 512-byte hdwr sectors (329391 MB)
SCSI device sda: drive cache: write back
/dev/scsi/host0/bus0/target0/lun0: p1 p2
Attached scsi disk sda at scsi0, channel 0, id 0, lun 0


Merci de votre aide.

Sam.


Avatar
Emmanuel Florac
Le Wed, 13 Jul 2005 13:05:26 +0200, Sam Przyswa a écrit :


Merci de votre aide.


Ça a l'air correct.

Je pense qu'il faut "tweaker" les paramètres noyau. Je n'ai pas les infos
pour le 2.6 sous la main, mais normalement ça dooit se trouver dans la
knowledge base 3ware sur le site (en anglais).

--
A thing of beauty is a joy forever.
J. Keats.

Ah! Singe débotté, hisse un jouet fort et vert!
Marcel Bénabou.

Avatar
Sam Przyswa


Merci de votre aide.



Ça a l'air correct.

Je pense qu'il faut "tweaker" les paramètres noyau. Je n'ai pas les infos
pour le 2.6 sous la main, mais normalement ça dooit se trouver dans la
knowledge base 3ware sur le site (en anglais).


Ok, je vais regarder ce que je trouve chez 3ware.

Merci.

Sam.


Avatar
Francis Chartier
Dans l'article <db64va$21em$,
concept.com écrivait...

Ok, je vais regarder ce que je trouve chez 3ware.


Je prends ça avec un peu de retard (les vacances... :))

J'ai assemblé ici un serveur avec une 3Ware9500S en Raid5 (4 disques WD
Raptor76 Go) sur une Tyan K8W, noyau 2.6.12.2 (Ubuntu Amd64).
Elle est positionnée dans un slot 64 bits 133 MHz.

J'utilise les drivers + firmware compilé depuis les sources dispos chez
3ware, ainsi que les utilitaires (tw_cli en version 64 bits)

This version of the driver contains a bundled firmware image.
History
-------
2.26.03.015fw - Initial release.


A l'initialisation du système, il est conseillé pour avoir de meilleures
perfs d'augmenter le nombre de secteurs en "read-ahead"

/sbin/blockdev --setra 16384 /dev/sdb

Je n'ai aucun souci de perfs, ni de "freeze" du systeme

Je peux éventuellement faire certains tests.

--
Francis Chartier