【发布时间】:2012-01-09 17:18:01
【问题描述】:
ANN 分类(回归)比SVM 好在哪里?一些真实的例子?
【问题讨论】:
-
我投票结束这个问题,因为它不是关于 help center 中定义的编程,而是关于 ML 理论和/或方法。
标签: machine-learning neural-network classification svm
ANN 分类(回归)比SVM 好在哪里?一些真实的例子?
【问题讨论】:
标签: machine-learning neural-network classification svm
这在很大程度上取决于两者都有不同的权衡和设计标准。已经有一些工作表明了这种关系,有些人说在这个问题的其他答案中看到了等价性。以下是另一个参考,它在机器学习中的这两种技术之间建立了联系:
罗南·科洛伯特和萨米·本吉奥。 2004. 感知器、MLP 之间的链接 和支持向量机。在第二十一届国际会议论文集 机器学习会议(ICML '04)。 ACM,纽约,纽约,美国, 23-。 DOI:https://doi.org/10.1145/1015330.1015415
【讨论】:
我刚刚在几个流行的回归和分类数据集上完成了一些 out-of-the-box comparison between support vector machines and neural networks - 简而言之,第一个结果:支持向量机学习速度快,预测速度慢 - 神经网络学习速度慢,但预测速度快,并且具有非常轻量级的模型。关于准确性/损失,这两种方法似乎都相当。
【讨论】:
最近看了一篇证明the theoretical equivalence between ANN and SVM的论文。但是,ANN 通常比 SVM 慢。
【讨论】:
有许多应用程序更好,许多应用程序可比,许多应用程序更差。这也取决于你问谁。很难说这种类型的数据或那种类型的数据/应用程序。
digit classification on MNIST 是一个例子,其中 ANN,尤其是卷积神经网络,比 SVM 工作得更好。另一个这样的案例是Geoff Hinton's group 使用 Deep Belief Networks 进行语音识别的工作
【讨论】: