【问题标题】:Continuous processing mode and python udf连续处理模式和python udf
【发布时间】:2023-03-28 10:50:01
【问题描述】:

Spark 2.4.0 是否支持具有连续处理模式的 Python UDF?

在我的简单代码中,我使用的是 kafka 主题,每行进行一些简单的处理(基本上是在 json 消息中添加一个虚拟字段)并写出到另一个主题。

但是,当我使用连续模式触发时,我在输出主题中看不到任何消息。如果我不使用 python udf,那么它工作正常。

编辑:此bug report(与此帖子无关)报告缺乏支持。

【问题讨论】:

标签: apache-spark pyspark spark-streaming spark-structured-streaming spark-streaming-kafka


【解决方案1】:

虽然我自己没有试过,但我相信没有。 documentation 列出了支持的操作; udf 不在列表中。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2016-09-18
    • 1970-01-01
    • 2011-09-27
    • 1970-01-01
    相关资源
    最近更新 更多