插入符号。数据拆分与trainControl的关系

Question

我仔细阅读了CARET 的文档：http://caret.r-forge.r-project.org/training.html，这些小插曲，一切都很清楚（网站上的例子很有帮助！），但我仍然对两个参数之间的关系感到困惑致trainControl：

method 
index

以及trainControl 与插入符号中的数据拆分函数之间的相互作用（例如createDataPartition、createResample、createFolds 和createMultiFolds）

为了更好地表达我的问题，让我使用文档中的以下示例：

data(BloodBrain)
set.seed(1)
tmp <- createDataPartition(logBBB,p = .8, times = 100)
trControl = trainControl(method = "LGOCV", index = tmp)
ctreeFit <- train(bbbDescr, logBBB, "ctree",trControl=trControl)

我的问题是：

1. 如果我使用createDataPartition（我假设它会进行分层引导），如上例所示，并将结果作为index 传递给trainControl，我是否需要使用LGOCV 作为我的电话trainControl 中的方法？如果我使用另一个（例如cv）会有什么不同？在我看来，一旦你修复了index，你实际上是在选择交叉验证的类型，所以我不确定如果你使用index，method 扮演什么角色。

2. createDataPartition 和 createResample 有什么区别？是不是createDataPartition 进行分层引导，而createResample 没有？

3) 我如何使用插入符号进行分层 k-fold（例如 10 折）交叉验证？下面会做吗？

tmp <- createFolds(logBBB, k=10, list=TRUE,  times = 100)
trControl = trainControl(method = "cv", index = tmp)
ctreeFit <- train(bbbDescr, logBBB, "ctree",trControl=trControl)

Answer 1

如果您不确定使用索引时方法扮演什么角色，为什么不应用所有方法并比较结果。这是一种盲目的比较方法，但它可以给你一些直觉。

  methods <- c('boot', 'boot632', 'cv', 
               'repeatedcv', 'LOOCV', 'LGOCV')

我创建我的索引：

  n <- 100
  tmp <- createDataPartition(logBBB,p = .8, times = n)

我为我的方法列表应用trainControl，并从结果中删除索引，因为它对我的所有方法都是通用的。

ll <- lapply(methods,function(x)
         trControl = trainControl(method = x, index = tmp))
ll <- sapply(ll,'[<-','index', NULL)

因此我的 ll 是：

                 [,1]      [,2]      [,3]      [,4]         [,5]      [,6]     
method            "boot"    "boot632" "cv"      "repeatedcv" "LOOCV"   "LGOCV"  
number            25        25        10        10           25        25       
repeats           25        25        1         1            25        25       
verboseIter       FALSE     FALSE     FALSE     FALSE        FALSE     FALSE    
returnData        TRUE      TRUE      TRUE      TRUE         TRUE      TRUE     
returnResamp      "final"   "final"   "final"   "final"      "final"   "final"  
savePredictions   FALSE     FALSE     FALSE     FALSE        FALSE     FALSE    
p                 0.75      0.75      0.75      0.75         0.75      0.75     
classProbs        FALSE     FALSE     FALSE     FALSE        FALSE     FALSE    
summaryFunction   ?         ?         ?         ?            ?         ?        
selectionFunction "best"    "best"    "best"    "best"       "best"    "best"   
preProcOptions    List,3    List,3    List,3    List,3       List,3    List,3   
custom            NULL      NULL      NULL      NULL         NULL      NULL     
timingSamps       0         0         0         0            0         0        
predictionBounds  Logical,2 Logical,2 Logical,2 Logical,2    Logical,2 Logical,2