使用 requirements.txt 安装时，阻止 pip 在单个包上失败

Question

我正在从requirements.txt 安装软件包

pip install -r requirements.txt

requirements.txt 文件内容如下：

Pillow
lxml
cssselect
jieba
beautifulsoup
nltk

lxml 是唯一无法安装的软件包，这会导致一切都失败（正如 larsks 在 cmets 中指出的预期结果）。但是，lxml 失败后，pip 仍然运行并下载其余的包。

据我了解，如果requirements.txt 中列出的任何软件包安装失败，pip install -r requirements.txt 命令将失败。

在运行pip install -r requirements.txt 时，我是否可以传递任何参数来告诉它安装它可以安装的内容并跳过它不能安装的软件包，或者在它看到失败时立即退出？

Answer 1

在@MZD 的答案的基础上，这里有一个过滤掉所有以注释符号#开头的文本的解决方案

cat requirements.txt | grep -Eo '(^[^#]+)' | xargs -n 1 pip install

Answer 2

一行 PowerShell：

Get-Content .\requirements.txt | ForEach-Object {pip install $_}

如果你需要忽略某些行，那么：

Get-Content .\requirements.txt | ForEach-Object {if (!$_.startswith("#")){pip install $_}}

或

Get-Content .\requirements.txt | ForEach-Object {if ($_ -notmatch "#"){pip install $_}}

Answer 3

对于使用 PowerShell 的 Windows：

foreach($line in Get-Content requirements.txt) {
    if(!($line.StartsWith('#'))){
        pip install $line
    }
}

Answer 4

对于 windows 用户，你可以使用这个：

FOR /F %k in (requirements.txt) DO ( if NOT # == %k ( pip install %k ) )

逻辑：对于文件（requirements.txt）中的每个依赖项，安装它们并忽略以“#”开头的那些。

Answer 5

对于 Windows：

import os
from pip.__main__ import _main as main

error_log = open('error_log.txt', 'w')

def install(package):
    try:
        main(['install'] + [str(package)])
    except Exception as e:
        error_log.write(str(e))

if __name__ == '__main__':
    f = open('requirements1.txt', 'r')
    for line in f:
        install(line)
    f.close()
    error_log.close()

1. 创建一个本地目录，并将您的requirements.txt 文件放入其中。
2. 复制上面的代码，将其作为python文件保存在同一目录下。记得使用.py 扩展名，例如install_packages.py
3. 使用 cmd 运行此文件：python install_packages.py
4. 提到的所有软件包都将一次性安装，而不会停止。 :)

您可以在安装功能中添加其他参数。喜欢： main(['install'] + [str(package)] + ['--update'])

Answer 6

对于 Windows：

pip 版本 >=18

import sys
from pip._internal import main as pip_main

def install(package):
    pip_main(['install', package])

if __name__ == '__main__':
    with open(sys.argv[1]) as f:
        for line in f:
            install(line)

pip 版本

import sys
import pip

def install(package):
    pip.main(['install', package])

if __name__ == '__main__':
    with open(sys.argv[1]) as f:
        for line in f:
            install(line)

Answer 7

此解决方案在您的 requirements.txt 中处理空行、空白行、# 注释行、空白-然后-# 注释行。

cat requirements.txt | sed -e '/^\s*#.*$/d' -e '/^\s*$/d' | xargs -n 1 pip install

感谢answer 的 sed 魔法。

Answer 8

感谢 Etienne Prothon 提供 windows 机箱。

但是，升级到 pip 18 后，pip 包不会向公众公开 main。因此，您可能需要像这样更改代码。

 # This code install line by line a list of pip package 
 import sys
 from pip._internal import main as pip_main

 def install(package):
    pip_main(['install', package])

 if __name__ == '__main__':
    with open(sys.argv[1]) as f:
        for line in f:
            install(line)

Answer 9

使用pip install 运行每一行可能是一种解决方法。

cat requirements.txt | xargs -n 1 pip install

注意：-a参数在MacOS下不可用，所以老猫更便携。

Answer 10

xargs 解决方案有效，但可能存在可移植性问题 (BSD/GNU) 和/或如果您的需求文件中有 cmets 或空行，则可能会很麻烦。

至于需要这种行为的用例，我使用例如两个单独的需求文件，一个只列出需要始终安装的核心依赖项，另一个文件包含 90% 的非核心依赖项大多数用例不需要的情况。这相当于 debian 包的 Recommends 部分。

我使用以下shell脚本（需要sed）来安装可选依赖项：

#!/bin/sh

while read dependency; do
    dependency_stripped="$(echo "${dependency}" | sed -e 's/^[[:space:]]*//' -e 's/[[:space:]]*$//')"
    # Skip comments
    if [[ $dependency_stripped == \#* ]]; then
        continue
    # Skip blank lines
    elif [ -z "$dependency_stripped" ]; then
        continue
    else
        if pip install "$dependency_stripped"; then
            echo "$dependency_stripped is installed"
        else
            echo "Could not install $dependency_stripped, skipping"
        fi
    fi
done < recommends.txt