ENet: A deep neural network architecture for real-time semantic segmentation

Abstract: 18x faster,75x less flops,79x less param

卷积Param: 0.37m

模型参数: 0.7m

卷积参数和模型参数是不一样的

1.Introduction

ENet: A deep neural network architecture for real-time semantic segmentation

ENet: A deep neural network architecture for real-time semantic segmentation

为了减少内核调用和唇齿操作,作者的网络架构没有使用bias,只有weights

1). Feature map resilution

下采样有两个缺点,降低特征图分辨率丢失细节信息,语义分割需要输出和原图相同的分辨率,然而在下采样特征图上运行的滤波器有一个更大的感受野,使他们能够收集更多的信息,fcn使用32倍下采样,作者的enet只使用了8倍的下采样。

2). Early downsampling

视觉信息是高度空间冗余,renet是自动去调节整个信息流的冗余流动。最初的网络层不应该有助于分类,相反作为很好的特征处理器和图像预处理

3). Decoder size

Encoder和decoder不是对称的,encoder主要进行信息处理和过滤,是主要结构,decoder负责上采样的输出,并惊醒细节微调。

4). Nonlinear operations

一般网络架构都会在cnn之前进行relu和bn,但是作者发现使用relu降低了模型精度,作者认为relu没有起作用是网络结构层深度的问题,resnet有上百层网络,而enet较少的网络需要快速过滤信息,所以使用prelu和bn。

5). Information-preserving dimensionality changes

在初始化阶段,作者采用3x3 CNN(stride 2)和maxpool并行,之后在concatenate特征图,10倍加速

6). Factorizing filters

Nn的卷积被1xn和nx1大体

7). Dilated conv

交叉使用

8). Regularization

Spatial dropout

 

ENet: A deep neural network architecture for real-time semantic segmentation

ENet: A deep neural network architecture for real-time semantic segmentation

 

分类:

技术点:

相关文章: