【问题标题】:Dataflow Jobs failing after launching启动后数据流作业失败
【发布时间】:2021-12-01 06:02:58
【问题描述】:

我们正在使用 terraform 设置数据流作业,在启动作业时遇到以下错误:

2021-10-12T16:12:54.996Z 读取结果文件失败: gs://staging-bucket/dataflow/staging/template_launches/2021-10-12_09_09_45-13333812258007291359/operation_result 带有错误消息:(ff526486692ce85f):无法打开模板文件: gs://staging-bucket/dataflow/staging/template_launches/2021-10-12_09_09_45-13333812258007291359/operation_result..

我们已经在一个测试项目中测试了模板和图像,它运行良好,现在我们已经迁移到另一个新项目,它在上面的日志中失败了。日志说它无法读取template_launches 目录,但该目录根本没有在存储桶中创建。 日志非常抽象,无法找到实际问题,我认为没有权限问题,但无法识别实际问题。

【问题讨论】:

  • 由于您正在处理另一个项目 - 您的服务帐户是否已用于对存储桶的数据流写入访问?

标签: google-cloud-platform google-cloud-dataflow terraform-provider-gcp


【解决方案1】:

您可以验证这些选项:

  • 在你的午餐程序中,你可以检查你是否调用了“.run()” 方法。

  • 您可以尝试在另一个项目中再次复制它。你可以看到一个 教程:how to create the dataflow process.

  • 如果问题仍然存在,您可以report this issue

【讨论】:

    【解决方案2】:

    我也面临同样的问题。尝试从目标项目上具有所有者 + 存储管理员的不同项目运行 terraform。如果我在从目标项目的服务帐户进行 gcloud 身份验证后运行它,但没有足够的错误而失败。

    【讨论】:

      【解决方案3】:

      问题出在服务帐号上,在doc 中添加上述角色后,问题已解决。

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 2020-08-05
        • 2018-02-07
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        相关资源
        最近更新 更多