【发布时间】：2019-01-30 13:47:15
【问题描述】：
我正在阅读这篇论文 - https://arxiv.org/pdf/1609.04112.pdf 并试图理解作者第一个问题的答案 -
为什么是非线性激活 函数在所有中间层的滤波器输出中是必不可少的吗？
到目前为止，他的解释似乎可以理解 -
我们可以进一步将 RECOS 模型推广到平移的单位球体
其中 μ 是 x 的平均值。
我很困惑为什么这被认为是“概括”，但本文继续解释了为什么这样做。
对于视觉问题，元素 xn , n = 1...N , x 表示 N 个像素 输入图像的值，μ是所有像素的平均值。如果输入 是一个完整的图像，它的均值是对图像没有影响的全局均值 理解。
可以在处理之前将其删除。因此，我们设置 μ=0。
但是，如果输入图像很大，我们通常会将其划分为较小的块，并并行处理所有块。在这种情况下，每个补丁的平均值是局部平均值。它不应该被删除，因为本地方法的集成提供了完整图像的粗略视图。这对应于方程式中的一般情况。 (5)。
我完全理解尝试使用它们的平均值来表示小块。
均值移动信号/向量是否被视为泛化？ 如果是这样，有人可以指点我证实这一说法的理论吗？我自己似乎找不到合适的链接。
还是这里只是为了说明作者的例子和后面的解释？
或者我在这里遗漏了一些明显的东西？
【问题讨论】：
标签： machine-learning neural-network deep-learning conv-neural-network