【问题标题】:Error Installing Apache-Airflow on Window os在 Windows 操作系统上安装 Apache-Airflow 时出错
【发布时间】:2023-04-08 13:08:01
【问题描述】:

我正在使用 pyspark

spark 2.4.4 和 Pycharm 蟒蛇:2.7

请帮助我如何在 window OS 中为 Spark 设置 Airflow。 我正在使用 pycharm 构建 spark 应用程序。

当我尝试通过 pycharm 安装气流包时,出现错误

File "C:\Users\Edward\AppData\Local\Temp\10\pycharm-packaging\dumb-init\setup.py", line 95, in run
        cmd = compiler.linker_exe + [f.name, '-static', '-o', os.devnull]
    AttributeError: MSVCCompiler instance has no attribute 'linker_exe'
    ----------------------------------------
ERROR: Command errored out with exit status 1: 'C:\Users\Edward\PycharmProjects\DataClean\venv\Scripts\python.exe' -u -c 'import sys, setuptools, tokenize; sys.argv[0] = '"'"'

C:\\Users\\Edward\\AppData\\Local\\Temp\\10\\pycharm-packaging\\dumb-init\\setup.py'"'"'; __file__='"'"'

C:\\Users\\Edward\\AppData\\Local\\Temp\\10\\pycharm-packaging\\dumb-init\\setup.py'"'"';f=getattr(tokenize, '"'"'open'"'"', open)(__file__);code=f.read().replace('"'"'\r\n'"'"', '"'"'\n'"'"');f.close();exec(compile(code, __file__, '"'"'exec'"'"'))' 
install --record 

'c:\users\Edward\appdata\local\temp\10\pip-record-ntk3mx\install-record.txt' --single-version-externally-managed --compile --install-headers 

'C:\Users\Edward\PycharmProjects\Data\venv\include\site\python2.7\dumb-init' Check the logs for full command output.

如果有人可以详细分享气流设置,请帮助我。

【问题讨论】:

    标签: apache-spark airflow


    【解决方案1】:

    您可以使用 Docker 或 Ubuntu WSL 将 Airflow 安装到 Windows 10:

    1) Docker 是一种用于创建和管理“容器”的工具,这些“容器”就像您可以在其中运行代码的小型虚拟机。有一个 Airflow 映像可供安装:

    2) WSL(适用于 Linux 的 Windows 子系统):

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2021-05-16
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2019-06-04
      • 1970-01-01
      相关资源
      最近更新 更多