GNU/Linux >> Znalost Linux >  >> Linux

Maximalizace výkonu a propustnosti rsync – přímo připojené gigabitové servery

Řešení 1:

Počet souborů a režie šifrování SSH jsou pravděpodobně největší překážky. U takového přenosu neuvidíte rychlost drátu.

Možnosti vylepšení zahrnují:

  • Použití rsync+SSH s méně nákladným šifrovacím algoritmem (např. -e "ssh -c arcfour" )
  • Úplné odstranění šifrování přes přenos SSH pomocí něčeho jako HPN-SSH.
  • Převody založené na blocích. Snímky, dd , odeslání/přijetí snímku ZFS atd.
  • Pokud se jedná o jednorázový nebo nepravidelný převod, použijte tar , netcat (nc ), mbuffer nebo nějakou kombinaci.
  • Zkontrolujte svůj CentOS tuned-adm nastavení.
  • Odstranění atime z připojení vašeho souborového systému. Zkoumání dalších možností připojení souborového systému.
  • Vyrovnávací paměti pro odesílání a přijímání NIC.
  • Ladění rsync příkaz. By -W , má zde smysl možnost celé soubory? Je povolena komprese?
  • Optimalizujte svůj úložný subsystém pro typ přenosů (SSD, počet vřeten, mezipaměť řadiče RAID.)

Řešení 2:

Jak asi víte, kopírování velkého množství malých souborů (např. poštovní schránky ve formátu MailDir nebo podobně) rozhodně není nejlepší možností, jak využít rozhraní s vysokou šířkou pásma. SSH na to pravděpodobně také není nejlepší transportní protokol. Zkusil bych použít tar k vytvoření tarballu na zdrojovém hostiteli před jeho odesláním sekundárnímu hostiteli.

tar c /var/mail | ssh [email protected] 'tar x -C /var/backups'

Pokud potřebujete přírůstkovou zálohu, můžete zkusit -g možnosti tar. Pokud stále potřebujete maximalizovat výkon, zkuste místo ssh použít netcat.


Linux
  1. Jak přenášet soubory mezi servery v Linuxu pomocí SCP a FTP

  2. Jak odesílat a stahovat soubory pomocí Rsync

  3. Použití rsync k synchronizaci souborů

  1. Použití nfsstat a nfsiostat k řešení problémů s výkonem NFS v Linuxu

  2. Nástroje správce systému:Používání nástroje rsync ke správě zálohování, obnovy a synchronizace souborů

  3. Jaké DNS servery používám?

  1. Použití skriptu Apache2Buddy pro výkon a stabilitu

  2. 6 rsync Příklady k vyloučení více souborů a adresářů pomocí exclude-from

  3. Pomocí možností Rsync zahrnout a vyloučit zahrnout adresář a soubor podle vzoru