我正在为 MATLAB 中的监督分类任务实现神经网络。
我有一个训练集和一个测试集来评估结果。 问题是，每次我为相同的训练集训练网络时，对于相同的测试集，我会得到非常不同的结果（有时我得到 95% 的分类准确率，有时像 60%）。
现在我知道这是因为我得到了不同的初始权重，并且我知道我可以使用“种子”来设置相同的初始权重，但问题是这对我的数据有什么影响以及查看的正确方法是什么这？如何定义使用我设计的 ANN 获得的准确性？是否有针对此的协议（例如运行 ANN 50 次并获得平均准确度之类的）？
谢谢
【问题讨论】：
标签： matlab neural-network classification
确保您的测试集与训练集相比足够大（例如，占整体数据的 10%），并检查其多样性。如果您的测试集仅涵盖非常具体的情况，这可能是一个原因。还要确保您始终使用相同的测试集。或者，您应该搜索术语 cross-validation。
此外，观察到良好的训练集准确度而观察到较差的测试集准确度是过度拟合的标志。尝试像简单的 L2 权重衰减一样应用正则化（只需在每次权重更新后将权重矩阵乘以例如 0.999）。根据您的数据，Dropout 或 L1 正则化也可能有所帮助（尤其是如果您的输入数据中有很多冗余）。还可以尝试选择更小的网络拓扑（更少的层和/或每层的神经元更少）。
为了加快训练速度，您还可以尝试其他学习算法，例如 RPROP+, RPROP- or RMSProp，而不是简单的反向传播。
【讨论】：
看起来您的 ANN 没有收敛到最佳权重集。如果没有 ANN 模型的更多细节，我无法确定问题所在，但我会尝试增加迭代次数。
【讨论】：