回归方程

Question

我正在查看 Bollen (1989) 的《结构方程建模》一书中的第 2 页。在其中，他认为在一个简单的回归中，y 的方差可以表示为 (b1^2*VAR[x]) + VAR(disturance)。我不确定我是否理解这一点。我用 10 个假的 X 和 Y 案例尝试了这个，但无法让它发挥作用。谁能解释一下？

Answer 1

结构方程建模是一种对数据的协方差结构进行建模的技术，因此我们可以依赖一些协方差代数规则。我不会在这里展示这些的证明/推导，但您可以在网上其他地方轻松找到它们：

 1. var(y) = cov(y, y) 
 2. cov(x, a) = 0, where a is a constant 
 3. cov(x+w, y+z) = cov(x, y) + cov(x, z) + cov(w, y) + cov(w, z) 
 4. cov(ax, by) = ab*cov(x, y)

我们也知道回归方程的形式是：

y = bx + e

对于您的问题，您想用方差来表达var(y)...

使用规则 #1：

var(y) = cov(y, y)

但我们也知道y = bx + e，因此：

var(y) = cov(bx + e, bx + e)

我们可以使用规则 #3 重写 RHS：

var(y) = cov(bx, bx) + cov(bx, e) + cov(bx, e) + cov(e, e)

同时使用规则 #1（用于最后一个术语）和 4（用于第一个术语）：

var(y) = bb*cov(x, x) + cov(bx, e) + cov(bx, e) + var(e)

由于规则 #2，其中e 是一个常数，中间项会丢失。因为bb 只是b^2：

var(y) = (b^2)*cov(x, x) + var(e)

最后，cov(x, x) 只是 var(x)，因为规则 #1，你会得到你书中的内容：

var(y) = (b^2)*var(x) + var(e)