【问题标题】:How can I avoid download something repeatedly with gsutil?如何避免使用 gsutil 重复下载内容?
【发布时间】:2020-08-17 03:55:34
【问题描述】:

现在我正在使用 Google Cloud SDK Shell 下载相当大的内容(570.8GB)。

每次我决定终止下载并重新开始时(由于启用了多线程下载,我在使用gsutil下载时几乎无法使用这台计算机做任何其他事情),它总是从头开始,好像什么都没有以前下载过,很郁闷。

请问如何防止重复从头下载?

附言 现在我正在使用这一行参数进行下载:

gsutil -m cp -r gs://xxxxx/ destination

【问题讨论】:

    标签: google-cloud-platform gsutil


    【解决方案1】:

    根据documentation支持可恢复下载:

    同样,只要您使用 cp 命令,gsutil 就会自动执行可恢复下载(使用标准 HTTP Range GET 操作),除非目标是流。在这种情况下,部分下载的临时文件将在目标目录中可见。完成后,原始文件将被删除并被下载的内容覆盖。

    可恢复上传和下载将状态信息存储在 ~/.gsutil 下的文件中,由目标对象或文件命名。如果您尝试从具有不同目录的计算机恢复传输,则传输将从头开始。

    您可以检查相应路径上是否存在状态信息。

    【讨论】:

    • 问题是我在目标目录中看不到任何可用的临时文件,这很麻烦。我认为我的情况可能与可恢复下载有所不同,所以我最初只是避免使用该术语。还是谢谢你。
    猜你喜欢
    • 1970-01-01
    • 2014-12-02
    • 2013-03-13
    • 1970-01-01
    • 2012-12-15
    • 2016-05-05
    • 1970-01-01
    • 2012-01-26
    • 1970-01-01
    相关资源
    最近更新 更多