【问题标题】:Spark to subscribe to ActiveMQ or Mosquitto MQTT brokerSpark 订阅 ActiveMQ 或 Mosquitto MQTT 代理
【发布时间】:2013-10-06 15:24:15
【问题描述】:

我想将 Spark 订阅到 ActiveMQ 或 Mosquitto MQTT 代理。我该怎么做?

【问题讨论】:

    标签: mqtt apache-spark


    【解决方案1】:

    Apache 孵化器 Spark 存储库中用于 Spark Streaming 的 MQTT 适配器的更新请求和代码在这里,请参阅合并提交 https://github.com/apache/spark/commit/dd659642e77dca9a123178f98e399720127454c2

    【讨论】:

    • 这个更新的拉取请求刚刚合并,因此 MQTT 支持将包含在 Spark 0.9.0 版本中。
    【解决方案2】:

    There's a pull request 将 MQTT 输入源添加到 Spark Streaming。我们决定现在不接受这个 PR(我们想在支持之前判断对 MQTT 的需求),但是你应该可以拿那个 PR 的代码并把它放在你自己的包中。

    另外,请查看Spark Streaming Custom Receivers 指南,了解有关编写自定义输入接收器的信息。

    【讨论】:

      【解决方案3】:

      您可以编写自定义火花流接收器。它允许您从任何来源读取

      【讨论】: