foreach 中的导出变量答案

【问题标题】：Export variable in foreachforeach 中的导出变量
【发布时间】：2016-01-06 11:09:47
【问题描述】：

我在将数据框导出到 foreach 包中的 %dopar% 时遇到问题。如果我将%do% 与registerDoSEQ() 一起使用，它会起作用，但与registerDoParallel() 我总是得到：

Error in { : task 1 failed - "object 'kyphosis' not found"

这是一个使用来自rpart 包的kyphosis 数据的可重现示例。我正在尝试并行化逐步回归：

library(doParallel)
library(foreach)
library(rpart)

invars <- c('Age', 'Number', 'Start')
n_vars <- 2
vars <- length(invars)
iter <- trunc(vars/n_vars)
threads <- 4
if (vars%%n_vars == 0) iter <- iter - 1
iter <- 0:iter

cl <- makeCluster(threads)
registerDoParallel(cl)
#registerDoSEQ()

terms <- ''
min_formula <- paste0('Kyphosis~ 1', terms)
fit <- glm(formula = as.formula(min_formula), data = kyphosis, family = 'binomial')

out <- foreach(x = iter, .export = 'kyphosis') %dopar%  {

  nv <- invars[(x * n_vars + 1):(min(x * n_vars + n_vars, vars))]
  sfit <- step(object = fit, trace =FALSE, scope = list(
    lower = min_formula,
    upper = as.formula(paste(min_formula, '+', paste0(nv, collapse = '+')))),
    steps = 1, direction = 'forward')
  aic <- sfit$aic

  names(aic) <- if(nrow(sfit$anova) == 2) sfit$anova$Step[2]
  aic
}
out
stopCluster(cl)

【问题讨论】：

（iter为用户自定义变量）
我不知道为什么它不起作用，但是您可以通过将 glm 调用放在循环中来使其起作用。我希望它有助于故障排除。我怀疑问题在于 step 函数如何使用 fit 对象中的数据。
@antoine-sac 是的，它是这样工作的，但我尽量避免这样做，因为没有必要让每个工人都适应模型。
由于 kyphosis 数据框是在 rpart 包中定义的，您可以尝试使用 foreach .packages="rpart" 选项。这通常比尝试导出对象效果更好。

标签： r foreach parallel-foreach doparallel

【解决方案1】：

在调用step函数之前在foreach的正文中添加这个：

.GlobalEnv$kyphosis <- kyphosis

我不确定为什么会发生这种情况，但我的直觉是step 使用存储在fit$call 中的信息在其内部调用glm，即

glm(formula = as.formula(min_formula), family = "binomial", data = kyphosis)

使用新的更新公式，但data = kyphosis 部分保持不变。所以glm 尝试在全局环境中寻找kyphosis。

【讨论】：