【问题标题】:Deploy DataFlow job using Scio使用 Scio 部署 DataFlow 作业
【发布时间】:2019-10-21 17:27:10
【问题描述】:

我已经开始使用 Scala SDK Scio 开发我的第一个 DataFlow 作业。数据流作业将以流模式运行。

谁能建议最好的部署方式?我已经阅读了他们使用sbt-pack 的 Scio 文档,然后将其部署在 Docker 容器中。我还阅读了有关使用 DataFlow 模板的信息(但不是很详细)。

什么是最好的?

【问题讨论】:

  • 你应该定义"best"对你意味着什么。

标签: scala google-cloud-platform apache-beam dataflow


【解决方案1】:

与 Java 和 Python 版本一样,您可以直接在 Dataflow 上运行您的代码,方法是使用数据流运行器并从您的计算机(或虚拟机/函数)启动它。

如果你想打包再利用,你可以创建一个模板。

你不能run custom container on Dataflow

【讨论】:

  • 如何启动它并阻止客户端被锁定?对于流式作业,我希望 Jenkins 启动该作业,等待它启动,然后管道变为绿色。
猜你喜欢
  • 2020-10-21
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2021-08-13
  • 1970-01-01
  • 2023-03-13
相关资源
最近更新 更多