【问题标题】:Am getting error in scala programming while integrating spark streaming with kafka在将火花流与 kafka 集成时,在 scala 编程中出现错误
【发布时间】:2018-03-29 15:17:25
【问题描述】:

我正在尝试添加一些导入,但是当我添加时 import org.apache.spark.streaming.kafka.kafkautils 显示以下错误

对象 kafka 不是对象 org.apache.spark.streaming.kafka.kafkautils 的成员

在 Eclipse 上工作 scala ide 4.7 2.11.11 版, spark-2.3.0-bin-hadoop2.7 jar 文件, 卡夫卡 2.11 罐子, spark-streaming-kafka-0-10_2.11-2.3.0 jar

【问题讨论】:

    标签: scala apache-spark apache-kafka spark-streaming


    【解决方案1】:

    如果您使用的是 spark-streaming-kafka-0-10_2.11-2.3.0 jar,那么 KafkaUtils 可以在 org.apache.spark.streaming.kafka010 这个包中使用。 所以导入

    import org.apache.spark.streaming.kafka010.KafkaUtils
    

    而不是

    import org.apache.spark.streaming.kafka.kafkautils 
    

    希望这能帮到你!

    【讨论】:

    • 谢谢 Shankar,这解决了我的问题,但在 val kafkastream = KafkaUtils.createDirectStream(ssc,"localhost:2181","spark-streaming-consumer-group",Map("我的话题"->5))
    • 在 KafkaUtils.createDirectStream 附近显示错误
    • 我按照示例进行了尝试。有效。非常感谢。
    • 在 Pyspark 中不起作用。即使我使用 from pyspark.streaming.kafka010 import KafkaUtils
    猜你喜欢
    • 2016-05-26
    • 2019-04-11
    • 2020-08-18
    • 2018-08-19
    • 2017-04-27
    • 2017-08-18
    • 1970-01-01
    • 1970-01-01
    • 2018-02-08
    相关资源
    最近更新 更多