【发布时间】:2018-08-18 22:25:14
【问题描述】:
我正在研究 caffe SqueezeNet prototxt link。
我只是想知道 FC 层在哪里? (我只看到类型:data、conv、relu、pooling、concat、SoftmaxWithLoss 和accuracy)
【问题讨论】:
标签: neural-network deep-learning caffe conv-neural-network pycaffe
我正在研究 caffe SqueezeNet prototxt link。
我只是想知道 FC 层在哪里? (我只看到类型:data、conv、relu、pooling、concat、SoftmaxWithLoss 和accuracy)
【问题讨论】:
标签: neural-network deep-learning caffe conv-neural-network pycaffe
原因是 FC 层有大量参数,在某些架构中占网络参数的大部分。 SqueezeNet 的作者移除了 FC,用卷积层和全局平均池化取而代之。
conv 层的过滤器数量等于类的数量,将前一层的输出处理为(大致)每个类的映射。池化平均每个映射的响应。它们最终得到一个扁平向量,其维度等于类数,然后馈送到 SoftMax 层。
通过这些修改(不要忘记他们提出的 Fire 模块),他们能够显着减少内存占用。
我强烈建议您阅读SqueezeNet paper。
【讨论】:
SqueezeNet 没有全连接层,而是使用全局平均池化。
【讨论】: