1つの10TBバケットがあり、できるだけ早くコピーを作成する必要があります。これを行う最速で最も効果的な方法は何ですか?Googleストレージバケットを複製する最も速い方法は何ですか?
答えて
これは簡単にgsutilで実現できます。
gsutil -m cp -r gs://source-bucket gs://duplicate-bucket
Google Cloud Storage内で、同じ場所とストレージクラスを持つバケットにコピーしていますか?もしそうなら、この操作は非常に速くなければなりません。バケットの場所やストレージクラスが異なる場合、操作はより遅く(しかも高価になりますが)、これは最も速い方法です。あなたが同じ場所やストレージクラスに別のバケットにバケットをコピーしたいと仮定すると、
私はMike Schwartzの答えをupvoted。私が提案したコマンドは、コピーを開始する前にソースバケット内のすべてのオブジェクトを完全に列挙する必要がないため、やや高速になります。しかし、操作中に何かがうまくいかない場合(たとえば、一時的なネットワークの停止が発生した場合)、最初からコピーを開始する必要があります。 Mikeのコマンドは、ソースバケットの内容が変更された後に、後でソースバケットの送り先バケットを徐々に同期させるために再実行することもできます。 –
、あなたはGCEインスタンスでgsutilをrsyncを実行できます。
gsutil -m rsync -r -d -p gs:://source-bucket gs://dest-bucket
を使用すると、場所やストレージクラス間でコピーする場合上記のコマンドは引き続き動作しますが、その場合はデータ(メタデータだけでなく)をコピーする必要があるため、時間がかかります。
エラーが発生した場合は、結果の状態を確認してrsyncコマンドを再実行する必要があります。 (rsyncコマンドを実行すると、すでにコピーされたオブジェクトは再コピーされません)。バケットが正常に完全にコピーされるまで、rsyncコマンドを繰り返す必要があります。
簡単な方法の1つは、GoogleのCloud Storage Transfer Serviceを使用することです。私はこれを確認していませんが、それはまた、最も速いかもしれません。
- 1. MySQLのレコードを複製する最も速い方法
- 2. ビジュアルスタジオプロジェクトを複製する最速の方法/スクリプトは何ですか?
- 3. Pythonで重複をチェックする最も速い方法は何ですか?
- 4. デスクトップをストリーミングする最も速い方法は何ですか?
- 5. タイプをチェックする最も速い方法は何ですか?
- 6. Webサービスを複製する最も簡単な方法は何ですか?
- 7. NSMenuItemsを複製する最も簡単な方法は何ですか?
- 8. iOSで最も速い描画方法は何ですか?
- 9. Cでbmpイメージを回転する最も速い方法は何ですか?
- 10. Gtk +で画像を描画する最も速い方法は何ですか?
- 11. Javaでは、システム時間を得る最も速い方法は何ですか?
- 12. scipy.sparseマトリックスをスライスする最も速い方法は何ですか?
- 13. ファイルを上書きする最も速い方法は何ですか?
- 14. Photoshopオブジェクト(レイヤー)を選択する最も速い方法は何ですか?
- 15. UIViewの背景を実装する最も速い方法は何ですか?
- 16. イメージをタイルにスライスする最も速い方法は何ですか?
- 17. ファイルからStringを読み取る最も速い方法は何ですか?
- 18. unixtimeからnumpy.datetime64に変換する最も速い方法は何ですか?
- 19. HTML5で描画する最も速い方法は何ですか
- 20. 数字に2を掛ける最も速い方法は何ですか?
- 21. リモートマシン上のイベントログを読み取る最も速い方法は何ですか?
- 22. Pythonで複数のツリーのコピーを取得する最も速い方法は何ですか?
- 23. Rで複数の論理比較を実行する最も速い方法は何ですか?
- 24. PHPを使用して重複CSSルールをフィルタリングする最も速い方法は何ですか?
- 25. バージョン管理リポジトリを複製する最善の方法は何ですか?
- 26. 整数除算を行う最も速い方法は何ですか?
- 27. Google Chromeのタブ間で最も速い通信は何ですか?
- 28. Javaのテキストファイルから読み込む最も速い方法は何ですか?
- 29. IIS設定を新しいサーバーに複製する最も良い方法は?
- 30. 同時に複数の構造体フィールドを突き詰める最も速い方法は何ですか?
組み込みの転送サービスを見ましたか? https://cloud.google.com/storage/transfer/ – jarmod
私はS3を試しましたが、gsからgsにコピーできるとは考えていませんでした。ありがとう – Misko
それが助けてくれることを願っています。将来の読者のための答えとして追加しました。 – jarmod