MLP(多层感知机)只是CNN(卷积网络)的一个特例

  很多书或论文也将MLP和CNN区别开来，但是实际MLP只是CNN的一个特例，也就是说MLP本身也是CNN，以下为简要的论述。

  上图为CNN的计算过程，这里的输入为 3x3 的图片，卷积核大小也为 3x3 ，这里的stride为0，计算公式为：

$O_i=\sum_{i=1}^3(K_i\bigotimes I)+b_i$Oi​=i=1∑3​(Ki​⨂I)+bi​
  下图为MLP的计算过程（为了方便MLP的计算过程图权重W被拆开了实际为9x3的矩阵，而输入计算时应该先转置，输出也是需要转置，即 1x9 dot 9x3 = 1x3）

  计算公式为(点号为点乘，dot)

$O_i=W_i\cdot I+b_i$Oi​=Wi​⋅I+bi​
  上面我们可以看到，CNN和MLP计算过程实际对应数值标号是完全一致的，也就是说上两图MLP和CNN计算过程完全等价，可以互相转换。

  显然可以推导出，当CNN卷积核大小与输入大小相同时其计算过程等价于MLP，也就是说MLP等价于卷积核大小与每层输入大小相同的CNN，所以MLP是CNN的一个特例。

  所以理论上我们只需要研究CNN就可以了，而不必重复研究MLP。