使用 R 进行线性判别分析的 Roc 曲线答案

【问题标题】：Roc curve in linear discriminant analysis with R使用 R 进行线性判别分析的 Roc 曲线
【发布时间】：2017-05-22 21:00:44
【问题描述】：

我想计算 Roc 曲线，然后从线性判别模型计算 AUC。你知道我该怎么做吗？这里有代码：

##LDA
require(MASS)
library(MASS)
lda.fit = lda(Negative ~., trainSparse)
lda.fit
plot(lda.fit)
###prediction on the test set
lda.pred=predict(lda.fit,testSparse)
table(testSparse$Negative,lda.pred$class)

【问题讨论】：

@calimo 我试过这个代码：> rocplot = function(pred, truth, ...){ + predob = prediction(pred, truth) + perf = performance(predob, "tpr", " fpr") + plot(perf, ...) + } > yhat.opt = predict(lda.fit,testSparse, decision.values = TRUE) > fit.opt = attributes(yhat.opt)$decision.values > par (mfrow = c(1, 2)) > rocplot(fitted.opt,testSparse["Negative"], main = "Training Data")，但随后出现此错误：预测错误（pred，truth）：格式预测无效。
How to compute AUC with ROCR package的可能重复

标签： r machine-learning lda roc auc

【解决方案1】：

我会这样做。因为在这里你也可以得到 AUC 测量值 + 看起来超级苗条和光滑

install.packages("pROC")

library(pROC)

par(pty = "s")

roc(testSparse$Negative,lda.pred$posterior[,2],plot=TRUE, legacy.axes = TRUE, 
percent =TRUE, xlab="False Positive Percentage", ylab="True Positive Percentage")

【讨论】：

【解决方案2】：

试试这个：

library(ROCR)
# choose the posterior probability column carefully, it may be 
# lda.pred$posterior[,1] or lda.pred$posterior[,2], depending on your factor levels 
pred <- prediction(lda.pred$posterior[,2], testSparse$Negative) 
perf <- performance(pred,"tpr","fpr")
plot(perf,colorize=TRUE)

【讨论】：

非常感谢！！你知道我怎样才能看到要选择的因素的数量吗？还有一件事，当我拟合 lda 模型时，它会出现以下警告： lda.fit = lda(Negative ~.-Positive, trainSparse) 警告消息：在 lda.default(x, grouping, ...) 中：变量是共线的。有问题吗？@sandipan
@macgionny 我认为您的第一个问题是如何知道从 lda.pred$posterior 中选择的正确因子水平，对吧？假设您的响应变量中的正因子水平是“Y”，那么prediction() 将期望两个参数，对于每个数据元组，第一个是模型预测的概率是“Y”，第二个参数是真实的该实例的标签。第二个问题的答案是你的预测变量是线性相关的，所以这是一个多重共线性问题，这是警告的原因，你应该做 VIF 测试并删除一些变量。
如果您的模型具有较高的准确率和召回率，则绘制的 ROC 曲线很可能是上述形状。