【问题标题】:ACL permissions for write_dynamic_frame_from_options in to S3 using AWS Glue使用 AWS Glue 将 ACL 权限写入 S3 中的 write_dynamic_frame_from_options
【发布时间】:2020-02-14 21:54:06
【问题描述】:

如何在尝试使用write_dynamic_frame_from_options 输出 Glue DynamicFrame 时为 s3 对象添加 -acl 权限。当我尝试转换数据并将 csv 文件放入另一个 AWS 账户 S3 存储桶时,我给出了这行代码

glueContext.write_dynamic_frame.from_options(frame = DATA_temp, connection_type = "s3", connection_options = {"path": "s3://{BUCKETNAME}/{FOLDER1}/#0001"}, format = "csv")

我的过程已成功完成,但我无法下载或打开该帐户中的文件??

【问题讨论】:

    标签: python-3.x amazon-web-services amazon-s3 pyspark aws-glue


    【解决方案1】:

    这样就可以了

    glueContext._jsc.hadoopConfiguration().set("fs.s3.canned.acl", "BucketOwnerFullControl")
    

    scala版本如下:

    glueContext.sparkContext.hadoopConfiguration.set("fs.s3.canned.acl", "BucketOwnerFullControl")
    

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2021-03-25
      • 2021-10-06
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2023-04-07
      • 2021-01-13
      相关资源
      最近更新 更多