将值缩放到 [0,1] 会影响 CNN 学习过程吗？答案

【问题标题】：Does scaling the values to [0,1] affect the CNN learning procedure?将值缩放到 [0,1] 会影响 CNN 学习过程吗？
【发布时间】：2017-05-30 23:38:40
【问题描述】：

我正在使用 CNN 进行语义分割。

我已将图像的值标准化为 [0,1] 范围。我已经多次训练我的网络，学习曲线似乎学习得很好，但是，输出总是黑色图像。我的问题是缩放真的会影响学习还是像素值的范围应该保持在 0-255 范围内？

非常感谢。

【问题讨论】：

【解决方案1】：

一般来说不影响训练。在许多情况下，[0 1] 实际上比 [0 255] 更适合训练 DNN，因为如果自 w' 以来第一层不使用较低的学习率，后者可能会导致学习第一层权重时出现一些数值问题= y' * x，其中'表示导数。

【讨论】：