如何在微调 FC 层中选择感知器的数量？

【问题标题】：How to choose number of perceptron in fine-tuning FC layer?如何在微调 FC 层中选择感知器的数量？
【发布时间】：2018-06-19 16:03:18
【问题描述】：

我使用 VGG-16 预训练模型并微调最后 3 个 FC 层。但就我而言，我只使用 3 个类作为我的分类。我想问如何选择FC层的感知器。 我应该可视化 Conv5_3 层，然后再做决定吗？顺便说一句，VGG-16 官方模型是 FC 层中的 4096、4096、1000 个感知器。

【问题讨论】：

【解决方案1】：

调整网络的最简单方法是在 VGG 之上添加另一个 FC 层（权重内核大小为 1000x3）。

或者，将最后一个 FC 层（大小为 4096x1000）替换为大小为 4096x3 的 FC 层。

不要忘记正确初始化新添加的图层。

【讨论】：

因为我的数据集很小，并且与 VGG-16 人脸数据集不同。所以我认为我需要训练新的 FC 层而不是使用 VGG-16 FC 层。我刚才可视化了 Conv5_3 层（形状为：(7, 7, 512)），我发现大约有 4000-5000 个特征被激活。所以我猜这就是 VGG-16 模型在 FC6 中选择 4096 的原因。所以总的来说，我应该知道如何选择感知器并进行分析吗？