最佳线性无偏估计BLUE

最佳线性无偏估计BLUE

1、定义：线性估计是参数估计最重要的一类，应用 广泛。如果对参数x 的估计可以表示成为量测信 息的线性函数就是线性估计。而线性无偏最小方差估计称为BLUE ( Best Linear Unbiased Estimation)。
2、定理：如果量测信息的协方差矩阵是非奇异的，对于任意分布的量测 z 和参数 x，有线性无偏最小方差估计为：
x^BLUE=x¯+RxzR−1zz(z−z¯)${\hat{x}}_{BLUE}=\overline{x}+R_{xz}{R}_{zz}^{-1}(z-\overline{z})$
同时得到最佳线性估计估计量方差：
P=cov(x~)=Rxx−R−1xzRzx$P=cov(\tilde{x})=R_{xx}-R_{xz}^{-1}{R}_{zx}$
假设线性观测方程为：x^=a+B⋅z$\hat{x}=a+B\cdot z$实际应用中需要待估与计算线性观测的标量a$a$和矩阵B，使得估计量x~(N)${\tilde{x}}^{(N)}$的方差最小。
⎧⎩⎨ E{x^}=E(x)=x¯⋅⋅⋅Unbiased(无偏性) mina,BE{(x(N)−x)(x^(N)−x)T^}⋅⋅⋅MMSE(最小均方误差)$\{\begin{array}{l}E\{\hat{x}\}=E(x)=\overline{x}\cdot \cdot \cdot Unbiased(无偏性)\\ \underset{a,B}{min}E\{(\widehat{x^{(N)}-x)({\hat{x}}^{(N)}-x{)}^T}\}\cdot \cdot \cdot MMSE(最小均方误差)\end{array}$

⇒$\Rightarrow$

Bopt=RxzR−1zz,aopt=E(x)−Bopt⋅E(z)$B_{opt}=R_{xz}{R}_{zz}^{-1},a_{opt}=E(x)-B_{opt}\cdot E(z)$

证明：

在BLUE估计中只需要知道未知参数x和观测矢量z的前二阶统计量（均值、方差和协方差）。
由于BLUE算法要求在线性观测方程下，要求估计量在均方意义下误差最小，所以又称最小均方估计LMMS(Linear Minimum mean square error estimation)。

推论：在未知参数与观测噪声统计独立条件下最佳线性估计的线性模型估计

• 对于满足线性观测方程的未知参数x与观测量z的关系可表示为：z=Hx+v,v$z=Hx+v,v$为观测噪声，同时，假定参数x与观测噪声v统计独立。已知未知参数x与观测z的前二阶统计量，假设为:E(v)=0E(v,v)=GvE(x,v)=0$E(v)=0E(v,v)=G_{v}E(x,v)=0$

• 计算未知参数x与观测量z的统计量：
  E(z)=E(Hx+v)=H⋅E(x)$E(z)=E(Hx+v)=H\cdot E(x)$
  Rzz=E{(z−E(z))(z−E(z))T}=HRxxHT+Gv(加性噪声，所以方差直接叠加)$R_{zz}=E\{(z-E(z))(z-E(z){)}^T\}=H{R}_{xx}{H}^T+G_v(加性噪声，所以方差直接叠加)$
  Rxz=E{(x−E(x))(z−E(z))T}=RxxHT$R_{xz}=E\{(x-E(x))(z-E(z){)}^T\}=R_{xx}{H}^T$
  将以上公式代入可最佳线性估计估计量方差：
  
  举例如下：