【问题标题】:pyspark running from ubuntu wsl in windows, error: cmd not found在 Windows 中从 ubuntu wsl 运行 pyspark,错误:找不到 cmd
【发布时间】:2021-01-27 10:07:07
【问题描述】:

我在 windows 10 的 ubuntu wsl 中安装 pyspark。这些是我从 Microsoft Store 安装 wsl 后使用的命令。

#install Java runtime environment (JRE)
sudo apt-get install openjdk-8-jre-headless
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-amd64/jre
#download spark, visit https://spark.apache.org/downloads.html if you want a different version
wget https://apache.osuosl.org/spark/spark-2.4.7/spark-2.4.7-bin-hadoop2.7.tgz
#untar and set a symlink
sudo tar -xvzf spark-2.4.7-bin-hadoop2.7.tgz -C /opt
sudo ln -s spark-2.4.7-bin-hadoop2.7 /opt/spark
ln -s /usr/bin/python3.8.5 python
/opt/spark/bin/pyspark

错误:


/mnt/c/Users/akash/.pyenv/pyenv-win/bin/pyenv: 3: cmd: not found
/mnt/c/Users/akash/.pyenv/pyenv-win/bin/pyenv: 3: cmd: not found

我无法理解为什么它在 C 盘中查找。如何解决这个问题?任何帮助表示赞赏。

【问题讨论】:

    标签: python windows apache-spark ubuntu windows-subsystem-for-linux


    【解决方案1】:

    尝试将解压后的目录 spark-3.0.1-bin-hadoop2.7 移动到 opt/spark 目录,而不是创建符号链接:

    sudo mv spark-3.0.1-bin-hadoop2.7 /opt/spark
    

    另外,请选择最新版本,即 Spark 3.0.1 和 Hadoop 2.7。

    您可以通过此在线阅读article 了解更多详情。

    【讨论】:

    • 它没有解决问题,得到了同样的错误。我可以运行使用 scala 的 spark-shell,但我想运行 pyspark。
    猜你喜欢
    • 2017-05-04
    • 2022-06-23
    • 2021-01-25
    • 2016-12-19
    • 2019-09-15
    • 2021-03-04
    • 2022-07-19
    • 2014-11-19
    • 1970-01-01
    相关资源
    最近更新 更多