caffe 中的 Softmax 和 SoftmaxWithLoss 层有什么区别？

Question

在caffe中定义prototxt时，我发现有时我们使用Softmax作为最后一层类型，有时我们使用SoftmaxWithLoss，我知道Softmax层会返回输入数据属于每个类的概率，但似乎SoftmaxwithLoss 也会返回类概率，那么它们之间有什么区别呢？还是我误解了这两种图层类型的用法？

Answer 1

Softmax 返回给定模型预测的每个目标类的概率，SoftmaxWithLoss 不仅将 softmax 操作应用于预测，还计算多项逻辑损失，作为输出返回。这是训练阶段的基础（没有损失就不会有可用于更新网络参数的梯度）。

看 SoftmaxWithLossLayer 和Caffe Loss 了解更多信息。