【问题标题】:Determining hidden neurons in Neural Network [closed]确定神经网络中的隐藏神经元
【发布时间】:2013-12-21 18:07:24
【问题描述】:

我们如何选择隐藏层(反向传播网络)的神经元数量?选择隐藏神经元的数量是否有任何硬性规则?我发现在一些论文中它应该几乎等于 (no_input_neurons * no_output_neurons) 的平方根。但这对我不起作用。选择神经元是一种命中和试验方法吗?

我正在尝试为井字游戏设计神经网络,从基础开始(已经进行了 XOR)。我应该如何进行?我发现不同论坛中隐藏神经元的数量不同。有什么想法?

【问题讨论】:

    标签: java neural-network tic-tac-toe backpropagation


    【解决方案1】:

    为反向传播网络选择隐藏层有点像黑魔法,但您可以在某种程度上对其进行推理。如您所知,通过学习,网络确定了高维空间中平面的参数,可以正确分类您的输入。所以你需要有足够多的神经元来区分不同的输入。当我在 5 多年前研究神经网络时,它曾经是一个活跃的研究课题。或许可以看看这篇论文:An algebraic projection analysis for optimal hidden units size and learning rates in back-propagation learning

    对于其他类型的网络,例如循环网络,有一些技术可以帮助找到正确的架构 - 例如可视化学习的权重,这些权重有时明显类似于输入的特征。

    【讨论】:

      【解决方案2】:

      确定隐藏层/神经元的数量基于试错法,并且高度依赖于您使用的训练数据类型。我总是先尝试将隐藏神经元的数量与输入神经元的数量相匹配,然后再增加/减少。尝试改变训练 epoch 的数量和学习率。

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 2017-01-17
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2016-09-02
        • 2017-09-11
        • 1970-01-01
        • 2013-03-16
        相关资源
        最近更新 更多