了解 R 中的黄土错误

Question

我正在尝试使用 loess 拟合模型，但我遇到了诸如“使用 3 处的伪逆”、“邻域半径 1”和“倒数条件数 0”之类的错误。这是一个 MWE：

x = 1:19
y = c(NA,71.5,53.1,53.9,55.9,54.9,60.5,NA,NA,NA
      ,NA,NA,178.0,180.9,180.9,NA,NA,192.5,194.7)
fit = loess(formula = y ~ x,
        control = loess.control(surface = "direct"),
        span = 0.3, degree = 1)
x2 = seq(0,20,.1)
library(ggplot2)
qplot(x=x2
    ,y=predict(fit, newdata=data.frame(x=x2))
    ,geom="line")

我意识到我可以通过选择更大的跨度值来修复这些错误。但是，我正在尝试使这种拟合自动化，因为我有大约 100,000 个与此类似的时间序列（每个长度约为 20）。有没有一种方法可以自动选择一个跨度值来防止这些错误，同时仍然为数据提供相当灵活的拟合？或者，谁能解释这些错误的含义？我在 loess() 和 simpleLoess() 函数中做了一些探索，但在调用 C 代码时我放弃了。

Answer 1

比较 fit$fitted 和 y。你会注意到你的回归有问题。选择足够的带宽，否则它只会插入数据。如果数据点太少，线性函数在小带宽上表现得像常数并触发共线性。因此，您会看到警告伪逆、奇点的错误。如果您使用degree=0 或ksmooth，您将不会看到此类错误。 span 的一种易于理解的数据驱动选择是用于交叉验证，您可以在 Cross Validated 询问。

> fit$fitted
 [1]  71.5  53.1  53.9  55.9  54.9  60.5 178.0 180.9 180.9 192.5 194.7
> y
 [1]    NA  71.5  53.1  53.9  55.9  54.9  60.5    NA    NA    NA    NA    NA 178.0
[14] 180.9 180.9    NA    NA 192.5 194.7

您会看到过度拟合（完美拟合），因为在您的模型中，参数数量与有效样本量一样多。

fit
#Call:
#loess(formula = y ~ x, span = 0.3, degree = 1, control = loess.control(surface = "direct"))

#Number of Observations: 11 
#Equivalent Number of Parameters: 11 
#Residual Standard Error: Inf 

或者，您也可以使用自动geom_smooth。 （再次设置geom_smooth(span=0.3) 会引发警告）

ggplot(data=data.frame(x, y), aes(x, y)) + 
  geom_point() + geom_smooth()