协方差矩阵计算

Question

输入：随机向量 X=xi, i=1..n.
X=meanxi, i=1..n 的均值向量
输出：协方差矩阵 Sigma (n*n)。
计算：
1) 求所有 cov(xi,xj)= 1/n * (xi-meanxi) * (xj-meanxj), i,j=1..n
2) Sigma(i,j)=cov(xi,xj)，对称矩阵。
这个算法是否正确且没有副作用？

Answer 1

每个xi 应该是一个向量（随机变量），具有自己的方差和均值。

协方差矩阵是对称的，所以你只需要计算它的一半（并复制其余部分）并且在主对角线上有 xi 的方差。

 S = ...// your symmetric matrix n*n
 for(int i=0; i<n;i++)
   S(i,i) = var(xi);
   for(j = i+1; j<n; j++)
     S(i,j) = cov(xi, xj);
     S(j,i) = S(i,j);
   end
 end

其中xi的方差（var）：

v = 0;
for(int i = 0; i<xi.Count; i++)
  v += (xi(i) - mean(xi))^2;
end
v = v / xi.Count;

和协方差（cov）

cov(xi, xj) = r(xi,xj) * sqrt(var(xi)) * sqrt(var(xj))

r(xi, xj) 是Pearson product-moment correlation coefficient

编辑
或者，因为 cov(X, Y) = E(X*Y) - E(X)*E(Y)

cov(xi, xj) = mean(xi.*xj) - mean(xi)*mean(xj);

.* 是类似于 Matlab 的逐元素乘法。
所以如果x = [x1, x2],y = [y1, y2]然后z = x.*y = [x1*y1, x2*y2];