Xgboost 在 R 中使用 mlr 进行生存

Question

我想使用 mlr 对 R 中右删失的生存数据运行 xgboost。xgboost 代码列出了一个目标函数survival:cox，它说：

survival:cox：右删失生存时间数据的 Cox 回归（负值被视为右删失）。

我正在使用的 Mlr 2 仅支持用于回归和分类学习器的 xgboost。如果我尝试使用 xgboost 的内置回归学习器，它会使用 mse 作为评估指标。所以我尝试将指标更改为 cindex 并得到错误

措施：cindex cindex
FUN(X[[i]], ...) 中的错误： 度量 cindex 不支持任务类型 regr！

然后我尝试为 xgboost 编写一个新的生存学习器，它只是回归学习器的副本，但“Regr”更改为“Surv”，但它当然希望目标有 2 列 - 时间和status - 并且不接受负时间，而 xgboost 只需要一列 - time - 并假定时间为负值的任何行都会被审查。

以下是我尝试过的。有没有办法在 mlr2 或 mlr3 中实现这一点？

1. 为 xgboost 使用内置回归学习器：

    data(veteran)
    veteran_xgb <- veteran
    veteran_xgb <- veteran_xgb[c("trt", "karno", "diagtime", "age", "prior", "time")]
    veteran_xgb$time <- ifelse(veteran$status==1, veteran$time, -veteran$time)

    xgb.task <- makeRegrTask(id="XGBOOST_VET", data = veteran_xgb, target="time")
    xgb_learner <- makeLearner(id="xgboost",
                              cl="regr.xgboost",
                              predict.type = "response",
                              par.vals = list(
                                  objective = "survival:cox",
                                  eval_metric = "cox-nloglik",
                                  nrounds = 200
                                )
                              )

    learners = list(xgb_learner)
    outer = makeResampleDesc("CV", iters=5) # Benchmarking
    bmr = benchmark(learners, xgb.task, outer, show.info = TRUE)

1. 为 xgboost 使用自定义 surv 学习器：

    data(veteran)
    veteran_xgb <- veteran
    veteran_xgb <- veteran_xgb[c("trt", "karno", "diagtime", "age", "prior", "time", "status")]
    veteran_xgb$time <- ifelse(veteran$status==1, veteran$time, -veteran$time)

    xgb.task <- makeSurvTask(id="XGBOOST_VET", data = veteran_xgb, target = c("time", "status"))
    xgb_learner <- makeLearner(id="xgboost",
                              cl="surv.xgboost",
                              predict.type = "response",
                              par.vals = list(
                                  objective = "survival:cox",
                                  eval_metric = "cox-nloglik",
                                  nrounds = 200
                                )
                              )

    learners = list(xgb_learner)
    outer = makeResampleDesc("CV", iters=5) # Benchmarking
    surv.measures = list(cindex)
    bmr = benchmark(learners, xgb.task, outer, surv.measures, show.info = TRUE)

文件 RLearner_surv_xgboost.R 可以从 OneDrive 下载 https://1drv.ms/u/s!AjTjdzp0sDJRrhZtZF5-HZF2BrBB?e=FNLS94

Answer 1

我找到了解决方案并在此处更新了我的自定义学习器：https://1drv.ms/u/s!AjTjdzp0sDJRrhewy0yx3Wot3FiI?e=sxRrTN

诀窍是修改 trainlearner.surv.xgboost 函数。作为一个生存学习者，它期望通过包含 2 列时间和状态的目标传递数据。但是在那个学习器中，我们可以计算 xgboost 期望的目标，对于删失数据的时间为负数，然后将这个新的单列目标传递给 xgboost：

 trainLearner.surv.xgboost = function(.learner, .task, .subset, .weights = NULL,  ...) {
  parlist = list(...)

  if (is.null(parlist$objective))
  {
    parlist$objective = "survival:cox"
    parlist$eval_metric = "cox-nloglik"
  }

  task.data = getTaskData(.task, .subset, target.extra = TRUE)
  survtime <- ifelse(task.data$target$status==1, task.data$target$time, -task.data$target$time)

  parlist$data = xgboost::xgb.DMatrix(data = data.matrix(task.data$data), label = survtime)

  if (!is.null(.weights))
    xgboost::setinfo(parlist$data, "weight", .weights)

  if (is.null(parlist$watchlist))
    parlist$watchlist = list(train = parlist$data)

  do.call(xgboost::xgb.train, parlist)
}

然后使用这个新的学习器：

library(xgboost)
library(survival)
library(mlr)
source("RLearner_surv_xgboost.R")

data(veteran)
veteran.xgb <- veteran[, !(names(veteran) %in% c("celltype"))]

xgb.task <- makeSurvTask(id="XGBOOST_VET", data = veteran.xgb, target = c("time", "status"))
surv.measures = list(cindex)
outer= makeResampleDesc("CV", iters=5)

xgb.learner <- makeLearner(id="xgboost",
                          cl="surv.xgboost",
                          predict.type = "response")
learners = list(xgb.learner)
bmr = benchmark(learners, xgb.task, outer, surv.measures, show.info = TRUE)