rsync très lent en différenciel !

rsync très lent en différenciel ! - Codes et scripts - Linux et OS Alternatifs

Marsh Posté le 28-08-2008 à 10:17:09    

Bonjour,
 
Je suis actuellement en train d'optimiser mes scripts de back up avec rsync. Et vu que c'est un serveur de fichiers, j'ai pas mal galéré au début car le script s'arrétait dès qu'il rencontrait un fichier ouvert, j'ai trouvé la solution du --ignore-errors mais je me demande si c'est pas un peu du bricolage, qu'en pensez vous ? Comment gérez vous le back up d'un serveur de prod avec rsync ?
 
De plus rsync est ultra lent, là ca fait 2 jours qu'il fait son différenciel pr un répertoire de quelques centaines de Go, c'est je ne sais combien de fois plus lent que de faire un Full !!!
 
rsync -avvrt --backup --delete --progress --ignore-errors --chmod=ugo=rwX répertoire_source répertoire_dest
 
Avant j'avais un --delay-updates, je viens de l'enlever de la commande pour voir si ce n'est pas cette option qui rend rsync si lent !
 
Pr info le repertoire source et destination sont sur deux machines différentes sur un réseau 100Mbps.
 
Merci !

Reply

Marsh Posté le 28-08-2008 à 10:17:09   

Reply

Marsh Posté le 28-08-2008 à 16:50:41    

Pour information la première sauvegarde incrémentielle/différentielle est toujours très longue. Ensuite par contre ce sera un réel gain de temps lors des sauvegardes suivantes. Donc pas de quoi s'affoler (aussi bien pour rsync que rdiff-backup, 2 utilisataires de sauvegardes que j'ai utilisé entre autre).

Reply

Marsh Posté le 28-08-2008 à 17:57:44    

Nan mais t'as un autre problème. rsync est pas 'très lent' la première fois, il copie tout et c'est tout. Après en incrémental, y a pas de raison que ça soit lent. Ton -vv ou --progress ils te donnent des pistes sur ce qui est lent à faire ?

Reply

Marsh Posté le 28-08-2008 à 18:01:41    

@SkadiIsSadik : Ca fait un mois que je fais des incrementiels... et pour quelquels centaines de Go, ca mets pratiquement 2j !!!
 
Mon -vv ne me donne rien de particulier, il liste les fichiers, et basta, mais c'est long !
 

Reply

Marsh Posté le 28-08-2008 à 19:19:21    

bah mets un --progress voir ce qui se passe.

Reply

Marsh Posté le 29-08-2008 à 11:33:11    

J'ai déjà cette option. :/

Reply

Marsh Posté le 29-08-2008 à 13:07:02    

bah tu dois voir les les vitesses de transfert des fichiers ?

Reply

Marsh Posté le 31-08-2008 à 22:15:35    

C'est pas pdt le transfert, c'est pendant le scan des fichiers (comparaison des fichiers ?)

Reply

Marsh Posté le 01-09-2008 à 07:35:30    

C'est quoi pour un ordinateur que tu as ? Ces centaines de Go , c'est des fichiers de quelle taille en moyenne ?
 
Je dis peut-être une bêtise, mais si c'est style serveur Mail avec tous des fichiers de 50-100k et que c'est un vieux P1 avec HDD en ata .. faut pas trop s'étonner
 
Sinon t'as fait un "top" pour voir que c'est bien rsync qui est lent (pas des fois que ton cron lance aussi autre chose de très CPU consuming en même temps)


---------------
Si la vérité est découverte par quelqu'un d'autre,elle perd toujours un peu d'attrait
Reply

Marsh Posté le 01-09-2008 à 14:17:19    

C'est un serveur Core 2 à 2,2Ghz, 2Go de RAM, RAID1, bref, une machine plus que correcte.
 
Rsync bouffe quasi rien en CPU qd il tourne... :/

Reply

Marsh Posté le 01-09-2008 à 14:17:19   

Reply

Marsh Posté le 01-09-2008 à 15:22:35    

Que pensez-vous de SyncBack ? Ca a l'air pas mal.

Reply

Marsh Posté le 07-11-2008 à 00:01:01    

Le probleme vient surement pas de rsync, ça reglera pas le probleme.
( Ya quand même rsnapshot pour les backups )
Install jnettop à la rigueur et regarde ce qui (se) passe :)

Reply

Marsh Posté le 07-11-2008 à 10:54:47    

rsync -avPHAX --inplace --force --delete --delete-excluded -e "ssh -c blowfish-cbc" --block-size=2048 --checksum-seed=32761
 
Pour info, rsync est "lent" à constituer la liste des fichiers à backuper s'il y en a beaucoup (ie: 300GB dans plus de 60M prend plus de 24h à créer sur un RAID honnête).
De plus, il utilise énormément de mémoire pendant ce processus (ie: même source, il faut plus de 16GB RAM à rsync seul).

Reply

Marsh Posté le 07-11-2008 à 12:14:26    

Et si tu fais une simple copie de fichier au travers de nfs as-tu toujours un débit aussi lent ?


---------------
Penguin online qui ne fait que des conneries, et qui aime ça. Membre du http://www.fonacon.net/
Reply

Sujets relatifs:

Leave a Replay

Make sure you enter the(*)required information where indicate.HTML code is not allowed