【发布时间】：2017-11-16 08:53:57
【问题描述】：
我对神经网络非常陌生，想知道为什么所有 RNN 示例，尤其是 char-rnns 都使用交叉熵损失函数作为其损失函数。我已经用谷歌搜索，但似乎无法在这种情况下遇到任何关于该功能的讨论。我被要求鼓励使用它并查看它的优点和缺点，因此我可以阅读的任何论文或资源将不胜感激。
【问题讨论】：
标签： machine-learning recurrent-neural-network cross-entropy
【发布时间】：2017-11-16 08:53:57
【问题描述】：
许多序列到序列的 RNN，尤其是 char-rnn，每次生成一个项目的结果，换句话说，通过在每个时间步解决一个分类问题。 p>
交叉熵损失是分类时的main choice，不管是卷积神经网络（example）、循环神经网络（example）还是普通的前馈神经网络（@987654325） @)。如果您要编写一个解决回归问题的 RNN，您将使用不同的损失函数，例如 L2 损失。
以上所有示例均使用tensorflow 和tf.nn.softmax_cross_entropy_with_logits 损失。
【讨论】：