sklearn.linear_model.SGDClassifier 中损失函数的准确定义答案

【问题标题】：Exact definitions of loss functions in sklearn.linear_model.SGDClassifiersklearn.linear_model.SGDClassifier 中损失函数的准确定义
【发布时间】：2014-06-27 18:53:45
【问题描述】：

我知道我可以将损失函数更改为以下之一：

loss : str, 'hinge' or 'log' or 'modified_huber' 要使用的损失函数。默认为“铰链”。铰链损失为标准线性 SVM 模型使用的边际损失。 'log' 损失是逻辑回归模型的损失，可用于二元分类器中的概率估计。 '修改后的_huber' 是另一个对异常值带来容忍度的平滑损失。

但是这个函数的定义是什么？
我知道hinge 是max(0, 1 - margin)。还有其他的呢？

【问题讨论】：

标签： python machine-learning scikit-learn

【解决方案1】：

这是所有这些函数的图表，取自scikit-learn example gallery：

在当前的dev version of the example 中，损失是在脚本中内联实现的。

【讨论】：

【解决方案2】：

sklearn 的源代码可在 GitHub 上找到，因此您可以查看它。损失函数列表可以在sklearn/linear_model/stochastic_gradient.py 中找到。损失的定义在这里：sklearn/linear_model/sgd_fast.pyx#L46

【讨论】：