当 random_state 为 None 时，StratifiedShuffleSplit 函数（scikit-learn）的不同结果

Question

我正在执行交叉验证以正确分类。首先，我使用了 scikit-learn 中的 StratifiedKfold 函数。在某个时候，我想进行更多的迭代，于是我改为使用 StratifiedShuffleSplit。有了这个新功能，我得到的结果发生了变化。最后，我意识到，如果我指定一个 random_state，我会再次获得与使用 StratifiedKfold 作为 CV 时获得的结果相似的结果。

总之，如果我指定 random_state，对于不同的值，我得到的结果会略有不同，类似于我使用 StratifiedKfold 获得的结果（一次迭代，或者我自己计算洗牌，如 here）。但是，如果 random_state 为 none 或未指定，我获得的结果将完全改变。

我检查了当 random_state 为 None 时，train 和 test 索引是不同的并且是分层的，正如预期的那样。

我没有使用随机数生成器的经验，但这对我来说没有任何意义

查看代码我意识到当 random_state 为 None 时，函数 check_random_state 被调用。如果种子为无，此函数返回 np.random (link) 使用的 RandomState 单例。

我给你写了有问题的代码。 如果我将注释行更改为下面的行，我会得到不同的结果。

import numpy as np
import sklearn as skl

(...)
#skCVs=skl.cross_validation.StratifiedShuffleSplit(classes,n_iter=iterations*kfoldCV,test_size = 1/float(kfoldCV),random_state=5)
skCVs=skl.cross_validation.StratifiedShuffleSplit(classes,n_iter=iterations*kfoldCV,test_size = 1/float(kfoldCV))

for train,test in skCVs:

   (classification, ...)

我使用的是 0.14 版的 sklearn。

你有什么解释或线索可以帮助理解正在发生的事情吗？

Answer 1

(Stratified)ShuffleSplit 在拆分之前随机打乱数据。 （伪）随机性由random_state 构造函数参数控制。默认的None 值意味着每个新调用都会产生不同的洗牌。要获得确定性改组，您可以选择传递整数种子。

Answer 2

我也不是随机生成器的专家，但据我所知，如果您不定义 random_state，则会调用不同的 RandomState 类型。这是我找到的解释：

“如果种子为无，那么 RandomState 将尝试从 /dev/urandom（或 Windows 模拟）中读取数据（如果可用）或从时钟中读取数据。”[1]

"如果 size 是一个整数，则返回一个填充了生成值的一维数组。" [1]

您可以在此处 [2] 的“check_random_state”中查看调用的两个不同随机生成器的代码。

[1]http://docs.scipy.org/doc/numpy/reference/generated/numpy.random.RandomState.html

[2]https://github.com/scikit-learn/scikit-learn/blob/0.14.X/sklearn/utils/validation.py

这对你有帮助吗？