【发布时间】：2020-07-02 19:19:48
【问题描述】：
当我学习 K-fold 时，我想知道 CV-error。 随着折叠数的增加，估计的交叉验证误差会更高或更小或没有变化（平均）？
我认为 CV-error 会下降。
【问题讨论】：
标签： machine-learning cross-validation k-fold
【发布时间】：2020-07-02 19:19:48
【问题描述】：
CV-error 和折叠数之间的关系不是一个实体上升另一个实体下降，它在某种程度上是任意的。我们需要以某种方式选择 K，以便为我们提供对 CV 误差的最佳估计。选择较大的 K 意味着对高估真实预期误差的偏差较小，但方差会很高。
要回答主要问题，K 和 CV-error 之间的关系取决于很多因素，主要是数据的分布、数据的大小和模型的真实性能。
【讨论】：
-
那么，如果你在“highher”、“lower”、“same”、“can't tell”之间进行选择，你的意思是 can't tell 是答案？
-
使用比需要更多的折叠会过度拟合数据，这将使 CV-error 尽可能低，但这个数字并不代表模型的真实性能。我所说的是“更高”的折叠意味着“更低”的 CV 错误，但“无法判断”真实性能。