如何确定地抑制 Python 中的 DeprecationWarning？

Question

我相信这个问题已经被提出过很多次了，但我有一个特定的用例，我无法用网络上描述的许多方法解决这个问题。

在我的一个项目中，我使用joblib 库，它显示DeprecationWarning，因为它在内部某处使用imp 库：

from sklearn.externals.joblib import Parallel, delayed

def main():
    xs = Parallel()(delayed(lambda x: x**2)(i) for i in range(1, 6))
    print(sum(xs))

if __name__ == '__main__':
    main()

我正在尝试使用解释器选项 -W 过滤掉警告，但它没有帮助：

$ python -W ignore example.py                                                                                                                   
[...]/lib/python3.7/site-packages/sklearn/externals/joblib/externals/cloudpickle/cloudpickle.py:47:
DeprecationWarning: the imp module is deprecated in favour of importlib; 
see the module's documentation for alternative uses import imp
55

另外，我正在尝试使用 warnings 模块进行显式过滤，但它也无济于事：

import warnings
warnings.simplefilter('ignore', category=DeprecationWarning)
from sklearn.externals.joblib import Parallel, delayed

def main():
    xs = Parallel()(delayed(lambda x: x**2)(i) for i in range(1, 6))
    print(sum(xs))

if __name__ == '__main__':
    main()

matplotlib 模块和其他一些第三方库也有类似的问题。可能还有其他一些方法（即环境变量），但我不明白为什么这些解决方案不起作用。

谁能解释警告系统在 Python 中的实际工作原理？第三方库有可能故意覆盖客户端的警告设置吗？我想说这个问题对我来说是最晦涩的话题之一。

Answer 1

有趣的是，即使遵循@Alex 的建议，我仍然有警告输出，如下所示：

import warnings
with warnings.catch_warnings():
    warnings.simplefilter('ignore', category=DeprecationWarning)
    from sklearn.externals.joblib import Parallel, delayed

def main():
    xs = Parallel()(delayed(lambda x: x**2)(i) for i in range(1, 6))
    print(sum(xs))

if __name__ == '__main__':
    main()

# $ python -W ignore example.py
# [...]
# DeprecationWarning: the imp module is deprecated in favour of importlib; 
# see the module's documentation for alternative uses
#  import imp
# 55

所以最终，我决定以一种非常老套的方式来做这件事并禁用所有警告，因为我有点厌倦了寻找一种合适的方法来处理它们。 （不仅对于这个库，对于许多其他似乎非常渴望用不可抑制的警告轰炸你的人来说）。

import warnings
def noop(*args, **kargs): pass
warnings.warn = noop
from sklearn.externals.joblib import Parallel, delayed

def main():
    xs = Parallel()(delayed(lambda x: x**2)(i) for i in range(1, 6))
    print(sum(xs))

if __name__ == '__main__':
    main()

如果我错误地使用了@Alex 的建议，或者你们中的一些人有更好的解决方案，我很乐意接受它作为答案。

---

更新 1

好的，似乎很难影响包内部某处提出的警告。所以可能最简单的事情就是将warnings.warn 替换为noop，或者以某种方式提前导入内部依赖项并使用上下文管理器抑制它们。

---

更新 2

前段时间，我发现了另一种处理警告的可能方法。您可以将它们重定向到日志记录。如果没有明确配置记录器，则基本上会抑制这些警告。它适用于 Jupyter 和我测试过的一些库。

import logging
logging.captureWarnings(True)

Answer 2

根据要求，这是一个单独的帖子的答案：

诀窍是在导入 sklearn（或使用 sklearn 的依赖项，在我的情况下是 hdbscan 包）时使用“with”警告：

with warnings.catch_warnings():
    # filter sklearn\externals\joblib\parallel.py:268:
    # DeprecationWarning: check_pickle is deprecated
    warnings.simplefilter("ignore", category=DeprecationWarning)
    import hdbscan

这将仅禁用此模块的 DeprecationWarning（因为 warnings-modification 附加到 with 块）。

将此语句放在代码中导入模块的第一个位置很重要，否则它将不起作用。例如。如果我在__init__.py 中加载hdbscan，并且上面的代码块出现在一些也加载hdbscan 的子类中，我仍然会收到DeprecationWarning，因为如果模块/包Python 会忽略任何后续import 语句已加载。

因此，检查哪些模块/包使用joblib\parallel.py 以及从线性代码的角度来看，这些模块/包最早加载到 python 对象堆的位置非常重要。

[编辑]

正如@devforfu 在 cmets 中指出的那样，上述解决方案不再有效。从Python 3.7DeprecationWarning is once again shown by default when triggered directly by code in __main__. 开始，我再次研究了这一点。此外，ignore 警告似乎在依赖项显式加载某个其他包的已弃用模块时不起作用。

这就是我的hdbscan 示例中出现的情况，该示例加载了已弃用的模块sklearn.external.six 和sklearn.externals.joblib。

以下是最终解决这个烦人问题的方法：

• 确保您已明确安装已弃用的独立软件包，例如conda install -c conda-forge joblib six
• 创建一个伪造的导入，它将覆盖依赖项导入，例如：

try:
    sys.modules['sklearn.externals.six'] = __import__('six')
    sys.modules['sklearn.externals.joblib'] = __import__('joblib')
    import hdbscan
except ImportError:
    import hdbscan

如果没有导入错误，将使用standalone 6 和joblib。否则，例如如果用户没有安装 6 个或 joblib，程序仍然可以工作（因为它从 sklearn.externals 加载了两个模块），但它会显示折旧警告。