【发布时间】：2016-03-04 01:57:41
【问题描述】：
我不太了解log和exp的关系。但是，我很困惑，softmax 回归中没有使用 log 吗？
【问题讨论】：
标签： neural-network classification logistic-regression softmax
【发布时间】：2016-03-04 01:57:41
【问题描述】：
Exp 是为所有实数值定义的，而 log 不是。
任何等于或小于零的向量元素都会导致 log 函数出现数值错误或未定义的行为。 exp没有这个问题。
为避免未定义，您需要为所有元素添加一个非常小的偏差。但是这个 epsilon 应该有多小？你怎么处理负数。您可能永远不会期望一个负数，而只是通过截断错误或非常接近浮点表示（一个非常小的值最终被表示为一个小的负数）来获得它。
【讨论】：