【问题标题】:What is the correct way to set timeouts in s3fs.S3FileSystem?在 s3fs.S3FileSystem 中设置超时的正确方法是什么?
【发布时间】:2021-03-16 15:07:41
【问题描述】:

我尝试了多种方法来设置 s3fs.S3FileSystem 对象的读取超时,例如

s3 = s3fs.S3FileSystem(s3_additional_kwargs={"read_timeout": 500}, config_kwargs={"read_timeout": 500} )

s3.read_timeout = 500 但他们似乎都没有像预期的那样控制超时。有谁知道设置这些类型参数的正确方法吗?

谢谢

【问题讨论】:

    标签: python timeout dask python-s3fs


    【解决方案1】:

    这个:

    S3FileSystem.read_timeout = 500
    

    将在创建任何实例之前工作,因为它控制应用于实例的默认超时。

    如果你想为每个实例设置它,你需要config_kwargs(传递给botocore的Config)。看来您尝试过此版本,因此值得跟进 aiobotocore 以查看他们的代理 AioConfig 是否支持该参数。

    请注意,您可能会遇到其他超时,例如 connect_timeout 和较低级别的 HTTP/socket。

    【讨论】:

    • 谢谢!我会试试这个 - 我想我是在创建实例之后设置它。那可能是我的错误。让我在创建实例之前检查它是否有效。
    猜你喜欢
    • 1970-01-01
    • 2014-03-16
    • 1970-01-01
    • 2022-11-08
    • 2017-12-17
    • 2010-11-24
    • 1970-01-01
    • 1970-01-01
    • 2021-02-09
    相关资源
    最近更新 更多