【问题标题】:HTTP Client in DoFnDoFn 中的 HTTP 客户端
【发布时间】:2018-05-12 11:22:30
【问题描述】:

我想通过 DoFn 为在 Dataflow 上运行的 Apache Beam 管道发出 POST 请求。

为此,我创建了一个客户端,它实例化了在 PoolingHttpClientConnectionManager 上配置的 HttpClosableClient。

但是,我为我处理的每个元素实例化了一个客户端。

如何设置所有元素都使用的持久客户端?

我应该使用其他用于并行和高速 HTTP 请求的类吗?

【问题讨论】:

    标签: http google-cloud-dataflow apache-beam apache-beam-io


    【解决方案1】:

    可以将客户端放入成员变量中,使用@Setup方法打开,@Teardown关闭。 Beam 中几乎所有 IO 的实现都使用这种模式,例如见JdbcIO

    【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2018-10-01
    • 1970-01-01
    • 2016-09-28
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多