Keras“Tanh Activation”功能——编辑：隐藏层

Question

Tanh 激活函数将输出限制为 [-1,1]。我想知道如果输入（特征和目标类）以 1-hot-Encoded 形式给出，它是如何工作的？

keras 如何（在内部管理）激活函数的负输出以将它们与类标签（单热编码形式）进行比较——仅表示 0 和 1（没有“-”ive 值）

谢谢！

Answer 1

首先，您根本不应该在输出层中使用它们。根据您的损失函数，您甚至可能会遇到错误。像 mse 这样的损失函数应该能够接受 tanh 的输出，但它没有多大意义。

但如果是在谈论隐藏层，那你就很好了。还要记住，在将层的输出提供给激活函数之前，存在偏差可以训练层的偏移量。