用于分类的多输出与多个单输出神经网络

Question

是否存在支持或反对使用单个多输出 NN 与使用多个一对多 NN 进行多类分类的理论论据？

在这两种情况下，一旦获得所有输出值，就会使用相同的决策规则：激活度最高的输出“获胜”并决定预测返回哪个类。

但我想知道在同一个 NN 上而不是单独计算所有输出是否更好或更坏，以及为什么更好。

Answer 1

我主要反对使用相同的神经网络结构进行多个分类。这在其他 AI 构造中非常罕见。您不能使用支持向量机或决策树来执行此操作。我认为这有点混淆了问题。

支持它的论点是您的隐藏层只是较低级别的特征检测器。您的多重分类（或回归）输出神经元现在独立使用您的输入和隐藏层传递的较低级别的特征。

我还没有尝试将它们组合到同一个 ANN 中而不是分开。我的猜测是，成功的程度将与多个分类试图完成的目标之间的相似性有关。