【问题标题】:Apache Zeppelin not load libmesos.soApache Zeppelin 不加载 libmesos.so
【发布时间】:2015-11-22 03:31:17
【问题描述】:

我正在使用当前版本v0.5 评估 Apache Zeppelin。我有一个将 spark 注册为框架的 mesos 集群,然后我需要配置 Zeppelin 以连接到 mesos 上的远程 spark 集群。

我在 conf/zeppelin-env.sh 中的配置是:

export MASTER=mesos://<mesos_ip>:5050
export MESOS_NATIVE_JAVA_LIBRARY=/usr/lib/libmesos.so
export ZEPPELIN_JAVA_OPTS="-Dspark.executor.uri=http://<public_host_url>/spark-1.4.0-bin-hadoop2.6.tgz" 

但是当我执行启动命令并运行演示笔记本时,日志显示一些错误并且查询不起作用:

------ Create new SparkContext mesos://172.23.0.135:5050 -------
Failed to load native Mesos library from /usr/lib/libmesos.so
------ Create new SparkContext mesos://172.23.0.135:5050 -------
Failed to load native Mesos library from /usr/lib/libmesos.so

我找不到有关此错误消息的任何文档或源代码。而且我不明白原因,因为我在 /usr/lib 上有 libmesos.so,并且当我单独执行 spark-submmit 时,我的主机都可以正常工作。

【问题讨论】:

    标签: apache-spark mesos mesosphere apache-zeppelin


    【解决方案1】:

    根据docs你应该设置MESOS_NATIVE_JAVA_LIBRARYSPARK_EXECUTOR_URI环境变量。

    export MESOS_NATIVE_JAVA_LIBRARY=/usr/lib/libmesos.so
    export SPARK_EXECUTOR_URI={YOUR_SPARK_DOWNLOAD_LOCATION}
    

    【讨论】:

    • 我有你的变量,但问题仍然存在。
    • 您确定在 执行程序主机上有libmesos.so吗?
    【解决方案2】:

    您可以尝试设置如下内容吗?

    export MESOS_NATIVE_LIBRARY=/usr/lib/libmesos.so
    export SPARK_EXECUTOR_URI=http://<public_host_url>/spark-1.4.0-bin-hadoop2.6.tgz
    

    【讨论】:

    • 我使用 MESOS_NATIVE_JAVA_LIBRARY 因为 MESOS_NATIVE_LIBRARY 它已被贬低并且错误仍然存​​在。
    猜你喜欢
    • 2020-05-16
    • 2018-08-20
    • 2020-07-19
    • 2016-09-09
    • 2020-04-02
    • 2017-03-04
    • 2018-12-01
    • 2018-12-14
    • 2016-08-13
    相关资源
    最近更新 更多