【问题标题】:Spark-shell Git Bash火花外壳 Git Bash
【发布时间】:2019-04-20 03:55:57
【问题描述】:

我无法让 spark-shell 命令在 Git bash 上运行。我相当确定我的环境设置正确,就像我在命令提示符下的任何目录中运行 spark-shell 一样,它对我来说工作得很好。

但是,当我在 bash 中运行 spark-shell 时,它会输出这个值而不是运行实际的 shell:

"C:\Program Files\Java\jdk1.8.0_191\bin\java" -cp "C:\spark\spark-2.4.0-bin- 
hadoop2.7/conf\;C:\spark\spark-2.4.0-bin-hadoop2.7\jars\*" "- 
Dscala.usejavacp=true"-Xmx1g org.apache.spark.deploy.SparkSubmit --class 
org.apache.spark.repl.Main --name "Spark shell" spark-shell

【问题讨论】:

  • 你的意思是你从一个shell脚本文件中运行spark?如果是这样,你能告诉我们那个脚本吗?如果没有,你是如何运行它的?
  • 不,我只是在没有脚本的情况下调用 spark-shell。我只是在任何目录中调用 spark-shell,它会在命令提示符下运行,但是对于 git bash,它会显示上述输出。

标签: java bash scala apache-spark git-bash


【解决方案1】:

在 git bash 中,尝试使用:

  • 单引号'(而不是双引号"
  • / 而不是 \: C:/.../.../c/.../...

这将与 Git bash 使用的 shell 更兼容。

【讨论】:

  • 澄清一下,以上是我返回的输出,我只是调用spark-shell
  • @Foxlooo 有机会修改spark-shell 脚本以测试我建议的语法吗?
  • 我不确定它正在运行什么脚本,我正在从安装 spark 和 scala 的默认内置命令运行它。另外,请记住它在命令提示符下工作
  • @Foxlooo 好的。我并不惊讶它在 CMD 命令提示符下工作,而不是在 bash 中(引号的解释不同)
【解决方案2】:

然后以RUN=($( spark-shell )) && "${RUN[@]}"运行它

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2017-10-08
    • 2016-01-05
    • 1970-01-01
    • 2019-05-02
    • 1970-01-01
    • 2017-01-26
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多