如何量化给定训练数据样本的偏差和方差答案

【问题标题】：How to quantify bias and variance given train data samples如何量化给定训练数据样本的偏差和方差
【发布时间】：2020-03-09 20:16:20
【问题描述】：

我有一个模型，我使用多项式和径向基函数进行训练，我将数据分成训练集和测试集，并从训练集中抽取大量样本。现在我对下一步感到茫然，我知道偏差是损失最小的样本的损失。我是在火车数据还是测试数据上计算这个？方差只是测试集上损失的方差吗？

【问题讨论】：

【解决方案1】：

这种权衡的主要目标是为决策边界找到合适的复杂度。

高复杂度：（可以）记住过去，（可能）不概括未来（高方差问题）

低复杂度：（可能）由于非常简单的决策边界而无法从过去学到足够的知识，并且（可能）也无法做出良好的预测（高偏差问题）

这可以简单地用如下图来表示，

【讨论】：