一、 传统网络存在的问题
- 权值太多,计算量太大
- 需要大量的样本进行训练
基于以上问题,提出了局部感受域的概念,通过感受野和权值共享,减少了神经网络训练参数的个数。
二、 二维坐标下的卷积
如图,黄色的部分称为卷积核,图中为3*3大小,每个位置有其对于的权重,对应坐标相乘,即得最后结果。
不同的卷积核可以得到对于不同的图像
对卷积的边界,有不同的处理方法,如果采用SAME PADDING,即给平面外部补0,则卷积窗口采样后得到一个跟原来平面大小相同的平面。如果采用VALID PADDING,即不给平面外部补0,则卷积窗口采样后得到一个跟原来平面小的平面。
三、 池化
与卷积过程类似,但计算方法不同,池化指的是取一个平面的最大值,均值(由程序设定)。其也有两种方式,SAME PADDING :可能会给平面外部补0。VALID PADDING :不会超出平面外部。
例如:有一个28*28的平面 ,用2*2并且步长为2的窗口对其进行pooling操作。使用SAME PADDING的方式,得到14*14的平面,使用VALID PADDING的方式,得到14*14的平面。
假如有一个2*3的平面,用2*2并且步长为2的窗口1对其进行pooling操作,使用SAME PADDING的方式,得到1*2的平面,使用VALID PADDING的方式,得到1*1的平面。
四、 CNN结构
CNN就是由许多卷积,池化层构成的,大概结构如下: