分析计算 Parzen 窗口的偏差

Question

我仍然无法理解特定估算器的偏差和方差实际上是什么。

我正在使用维基百科上的偏见定义：

如果我们将核密度估计定义为

但是如何将其应用于内核密度估计，或者更准确地说是 Parzen Windows？有人至少可以告诉我估计的密度 f_hat(x) 与偏差（和方差）的关系吗？

定性我已经知道，包含整个数据空间的框窗口将具有最大偏差并且没有方差，因为估计的密度将只是整个训练数据集的平均值。

Answer 1

我想我只是自己想通了。密度估计情况下的参数 theta 是 ..drumroll... 密度函数 f(x)。所以偏差定义为

偏差 = E[f_hat(x)] - f(x)

E[f_hat(x)] 项是窗函数的期望值或均值。计算它涉及一个简单的积分。

f(x) 是数据的true 密度函数，实际上可能是未知的。