看keras和mxnet的模型库中都是只有InceptionnetV3的模型而没有InceptionnetV4的模型，好奇其中原因，找来InceptionnetV3的paper读一读。
研究方向：1.增加网络规模，适当的增加计算
2.分解卷积和积极正则化
通常设计原则：1.避免瓶颈，特别是网络前段：特征维度不能断崖式下降
2.高维度能更简单地在本地网络中表示，多加**层以解锁更多特征并加快训练速度
3.空间聚合可以在较低的维度上完成，并且不会有太多的代表性损失
4.平衡网络的深度和广度
卷积分解：将nxn的卷积分解为nx1和1xn，保证效果的情况下减小计算量，3x3分解为3x1和1x3减少了33%
辅助分类器的应用：
有效的减小网格大小：两个平行的stride=2的blocks:P和C，P是个池化层，C为卷积，然后进行拼接。
网络结构：1.总体结构
训练方法：RMSProp（lr=0.045, decay=0.94 every 2 epoch）