【问题标题】:How boto3.s3.transfer handles multipart uploadboto3.s3.transfer 如何处理分段上传
【发布时间】:2017-03-29 20:47:16
【问题描述】:

我正在使用以下代码上传到 S3:

config = TransferConfig(multipart_threshold=1024)
transfer= S3Transfer(s3_client, config)
transfer.upload_file(fileadded, bucket, key,callback=ProgressPercentage(file))

我无法了解 boto 如何在内部处理分段上传。 我对此有几个问题,假设我有 2.5 MB 的文件:

  1. 那么文件会分 1、1 和 .5 MB 3 部分上传吗?
  2. 所有 3 个部分将并行或顺序上传?
  3. 在 java 的 aws 库中,我们有 TransferManager,在 boto 中有类似的东西吗?
  4. 如果此代码足以进行多部分上传?因为我遇到了一些复杂的代码示例

任何帮助将不胜感激。

【问题讨论】:

    标签: amazon-web-services file-upload amazon-s3 boto3


    【解决方案1】:

    您的代码是正确的。 S3 传输将使用您创建的配置来传输文件。检查documentation on TransferConfig 以查看您可以设置的参数及其默认值。

    回答您的问题:

    1. 是的
    2. 并行,使用线程
    3. boto3 使用s3transfer 在内部,但通常你只会使用TransferConfig
    4. 是的

    【讨论】:

      猜你喜欢
      • 2022-10-14
      • 1970-01-01
      • 1970-01-01
      • 2020-09-13
      • 2015-09-05
      • 2018-09-01
      • 1970-01-01
      • 2017-08-23
      • 2014-10-14
      相关资源
      最近更新 更多