scikit-learn逻辑回归中损失函数的代码为：
# Logistic loss is the negative of the log of the logistic function.
out = -np.sum(sample_weight * log_logistic(yz)) + .5 * alpha * np.dot(w, w)
不过，它似乎不同于普通形式的对数损失函数，其内容如下：
-y(log(p)+(1-y)log(1-p))
（请看http://wiki.fast.ai/index.php/Log_Loss）
谁能告诉我如何理解 scikit-learn 逻辑回归中损失函数的编码以及它与对数损失函数的一般形式之间的关系是什么？
提前谢谢你。
【问题讨论】：
标签： python machine-learning scikit-learn loss-function
首先您应该注意0.5 * alpha * np.dot(w, w) 只是一个规范化。因此，sklearn 逻辑回归简化为以下内容
-np.sum(sample_weight * log_logistic(yz))
另外，np.sum 是由于它考虑了多个样本，所以它再次简化为
sample_weight * log_logistic(yz)
最后，如果您阅读HERE，您会注意到 sample_weight 是分配给各个样本的可选权重数组。如果未提供，则为每个样品指定单位重量。因此，它应该等于 1（在交叉熵损失的原始定义中，我们不考虑不同样本的权重不等），因此损失减少为：
- log_logistic(yz)
相当于
- log_logistic(y * np.dot(X, w)).
现在，为什么它看起来与交叉熵损失函数不同（本质上是相同的），即。 e.：
- [y log(p) + (1-y) log(1-p))].
原因是，我们可以使用两种不同的标签约定中的任何一种来进行二进制分类，使用{0, 1} 或{-1, 1}，这会导致两种不同的表示。但它们是一样的！
更多细节（为什么它们是一样的）可以在HERE找到。请注意，您应该阅读 Manuel Morales 的回复。
【讨论】：