如何加强深度学习网络中的前向传播信号？

Question

我之前在 Matconvnet output of deep network's marix is uniform valued instead of varying values? 当我调试深度网络以进行密度估计时，我意识到朝向输出的信号消失/消失。我怎样才能加强信号，使其不会变得平坦-并且峰值和基值保持高幅度？

Answer 1

在 LRN 归一化中使用较低的 alpha 可以加强输出。