【发布时间】:2023-03-28 10:50:01
【问题描述】:
Spark 2.4.0 是否支持具有连续处理模式的 Python UDF?
在我的简单代码中,我使用的是 kafka 主题,每行进行一些简单的处理(基本上是在 json 消息中添加一个虚拟字段)并写出到另一个主题。
但是,当我使用连续模式触发时,我在输出主题中看不到任何消息。如果我不使用 python udf,那么它工作正常。
编辑:此bug report(与此帖子无关)报告缺乏支持。
【问题讨论】:
-
我会在星期一发布示例代码
-
已提交有关此问题的问题。 issues.apache.org/jira/browse/SPARK-27234
标签: apache-spark pyspark spark-streaming spark-structured-streaming spark-streaming-kafka