Performance d'E / S limitée dans Dell T410
Nous avons un petit nombre de systèmes. Dell T410 et T710. Chacun d'entre eux est équipé d'un contrôleur. Dell SAS 6iR de 6 disques SATAII, OS. 1x160 Gb et disques DATA 5x3 Tb. Nous avons toujours eu des problèmes avec la vitesse d'accès au disque, chaque disque a donné un peu plus 100 Mb / C, mais a rapidement ralenti sous charge. On nous a dit que ce sont nos contrôleurs de disque. Essayé de remplacer l'un d'entre eux sur H700 et vu une petite différence, éventuellement une augmentation de la vitesse sur 5%. Nous nous sommes convaincus que cela devrait être quelque chose avec des disques SAS -> SAS Backplane -> SATAII.
Mais maintenant nous essayons de mettre en place un cluster ceph entre les systèmes et accélérer les fichiers journaux que nous avons achetés OCZ Vertex 4 SDD Avec carte Highpoint 620 PCI-e 1X, Depuis tout le monde SAS connecté avec SAS Backplane. Tout va bien.
Mais quand test j'ai essayé «dd if = / dev / zero bs = 4k count = 1024k of = / mnt / test1.img», Où SSD monté avec un système de fichiers EXT4. J'ai une fenêtre différente ouverte iostat -dmx 1. Je vois l'achèvement de l'enregistrement, rapportant le disque sur le disque 390 Mb / C, mais c'est avec une mise en cache de disque. DANS iostat Je vois qu'il est réinitialisé au disque à la vitesse 100–120 Mb / avec je vois sur nos disques SATAII!
J'ai essayé le même test dans une autre direction: «echo 3> / proc / sys / vm / drop_caches; dd if = / mnt / test1.img bs = 4k of = / dev / null ', qui a rapporté O. 194 Mb / C et montré 189 Mb / de B. iostat.
J'ai essayé la même chose avec Ubuntu 12.10 et CentOS Live CD. Nos systèmes Windows 2008 R2 Toujours semblé lent. Tout BIOS Et le micrologiciel mis à jour. J'ai essayé les planificateurs noop, deadline et cfq, Tous les mêmes résultats. Tous les paramètres de la mémoire et du processeur sont désactivés pour BIOS Sans modifications. J'ai essayé avec l'inclus IOATDMA, Sans modifications. Essayé de supprimer toutes les cartes et cartes réseau SAS, Ne laissant que la carte SATAIII et SSD, Sans modifications. Carte SATAIII reconnu correctement et détermine SSD Comme la vitesse 6G.
Carte SATAIII et SSD Recevoir 400 Mb / de + Dans d'autres systèmes de bureau.
Avoir des idées qui essaient plus loin?
Nous ne pouvons pas nous permettre de remplacer et de recommencer à nouveau. Il agit comme s'il existe une sorte de ressource qui limite le nombre de ressources ou d'horaires d'E / S, il ne peut donc pas atteindre la vitesse totale. Limité Dell BIOS n'a pas de grand nombre d'options pour cela, et la carte et SSD Travaillez parfaitement dans d'autres systèmes, il ne faut donc pas être un coupable. Et avec des disques SATAII C'était toujours lent, même s'ils fonctionnent mieux et dans d'autres systèmes.
Je vois même des performances lentes sur les métadis dans le système. On peut voir quand j'ai essayé LVM avec alternance ou mise en miroir dans CentOS, Métadonisk, qu'il établit en tant qu'appount pour la vente de volumes LVM, Étaient limités à la même vitesse que les disques derrière eux. À ce moment-là, je pensais que cela pourrait être connecté avec le nouveau code qui l'applique, ou avec des aspects des opérations de blocage d'E / S RAID. Maintenant, je pense que tout est connecté.
Mais maintenant nous essayons de mettre en place un cluster ceph entre les systèmes et accélérer les fichiers journaux que nous avons achetés OCZ Vertex 4 SDD Avec carte Highpoint 620 PCI-e 1X, Depuis tout le monde SAS connecté avec SAS Backplane. Tout va bien.
Mais quand test j'ai essayé «dd if = / dev / zero bs = 4k count = 1024k of = / mnt / test1.img», Où SSD monté avec un système de fichiers EXT4. J'ai une fenêtre différente ouverte iostat -dmx 1. Je vois l'achèvement de l'enregistrement, rapportant le disque sur le disque 390 Mb / C, mais c'est avec une mise en cache de disque. DANS iostat Je vois qu'il est réinitialisé au disque à la vitesse 100–120 Mb / avec je vois sur nos disques SATAII!
J'ai essayé le même test dans une autre direction: «echo 3> / proc / sys / vm / drop_caches; dd if = / mnt / test1.img bs = 4k of = / dev / null ', qui a rapporté O. 194 Mb / C et montré 189 Mb / de B. iostat.
J'ai essayé la même chose avec Ubuntu 12.10 et CentOS Live CD. Nos systèmes Windows 2008 R2 Toujours semblé lent. Tout BIOS Et le micrologiciel mis à jour. J'ai essayé les planificateurs noop, deadline et cfq, Tous les mêmes résultats. Tous les paramètres de la mémoire et du processeur sont désactivés pour BIOS Sans modifications. J'ai essayé avec l'inclus IOATDMA, Sans modifications. Essayé de supprimer toutes les cartes et cartes réseau SAS, Ne laissant que la carte SATAIII et SSD, Sans modifications. Carte SATAIII reconnu correctement et détermine SSD Comme la vitesse 6G.
Carte SATAIII et SSD Recevoir 400 Mb / de + Dans d'autres systèmes de bureau.
Avoir des idées qui essaient plus loin?
Nous ne pouvons pas nous permettre de remplacer et de recommencer à nouveau. Il agit comme s'il existe une sorte de ressource qui limite le nombre de ressources ou d'horaires d'E / S, il ne peut donc pas atteindre la vitesse totale. Limité Dell BIOS n'a pas de grand nombre d'options pour cela, et la carte et SSD Travaillez parfaitement dans d'autres systèmes, il ne faut donc pas être un coupable. Et avec des disques SATAII C'était toujours lent, même s'ils fonctionnent mieux et dans d'autres systèmes.
Je vois même des performances lentes sur les métadis dans le système. On peut voir quand j'ai essayé LVM avec alternance ou mise en miroir dans CentOS, Métadonisk, qu'il établit en tant qu'appount pour la vente de volumes LVM, Étaient limités à la même vitesse que les disques derrière eux. À ce moment-là, je pensais que cela pourrait être connecté avec le nouveau code qui l'applique, ou avec des aspects des opérations de blocage d'E / S RAID. Maintenant, je pense que tout est connecté.
Aucun résultat connexe trouvé
Invité:
Pour répondre aux questions, connectez-vous ou registre
1 réponses
Hannah
Confirmation de:
Un autre point, si je me souviens bien, tout contrôleur Dell Désactive le cache d'écriture si vous n'avez pas d'unité de sauvegarde de la batterie installée sur le serveur. (BBU), L'avez vous? Sinon, alors cache de force l'enregistrement dans PERC BIOS Et vérifiez si la performance a changé. N'oubliez pas que l'enregistrement de cache sans batterie vous expose à une perte catastrophique de données en cas de panne de courant!
Dans des cas extrêmes, si le problème est connecté au bus PCI-E, Le moyen le plus rapide et le plus simple de remplacer la fente du contrôleur.
EDIT: J'ai oublié de mentionner
Avez-vous mis à jour le micrologiciel système aux dernières versions? BIOS, Firmware PERC et des choses similaires? Sinon, vous obtiendrez la dernière version sur support.dell.com Et essayez à nouveau. Peut-être que cela ne changera rien, mais dans le vieux firmware Dell BIOS Il y avait une erreur en raison de laquelle ils ont limité le processeur dans les architectures après Nehalem, Essayez de désactiver les États C dans la section CPU. BIOS, Attention, cela conduira à une augmentation de la consommation d'énergie!