• home
  • about
  • 全ての投稿
  • ソフトウェア・ハードウェアの設定のまとめ
  • 分析関連のまとめ
  • ヘルスケア関連のまとめ
  • 生涯学習関連のまとめ

transport a lot of files

date: 2020-12-29 excerpt:

tag: ssh


NOTE

  • このpostは/sshからリンクされるのが望ましい

sshで大量のデータを送信する

とにかく大量のデータを扱っている際、sshなどでデータを転送しようにもファイルが多すぎて話にならないなどがある。
sshで幾つかやり方がある

tarで圧縮しつつ転送などが良いらしい。

pipeで転送する

早い

tar czf - <files or dir> | ssh user@host "cd /{$PATH} && tar xvzf -"

ssh + tar

tar cf - something_huge_dir/ | ssh {$UNAME}@121.2.69.245 "bzip2 -9 - > ${HOME}/archive.tar.bz2"

これで送れる。

なお、ローカルで圧縮するには、zipより、

tar cfj archive.tar.bz2 something_huge_dir/ 

が便利

解凍

tar -xjf archive.tar.bz


ssh Share Tweet