多层感知器问题答案

【问题标题】：Multilayer Perceptron questions多层感知器问题
【发布时间】：2019-04-13 18:23:55
【问题描述】：

我正在做一个学校项目，设计一个神经网络 (mlp)，

我使用 GUI 制作了它，因此它可以是交互式的。

对于我所有的神经元，我使用 SUM 作为 GIN 函数，用户可以为每一层选择激活函数。

我有一个理论问题：

【问题讨论】：

【解决方案1】：

看起来不错！你可以有 3 个隐藏层，但你会通过实验看到，你很少需要那么多层。你的训练模式是什么？

您的问题的答案取决于您的训练模式和输入神经元的目的。某些输入神经元具有不同类型的值，您可以对连接到该输入神经元的神经元中的参数使用另一个阈值函数或不同设置。

但总的来说，最好将神经网络输入馈送到单独的感知器中。所以，答案是：理论上，您可以预设神经元的个别属性。但在反向传播学习的实践中，不需要。神经元没有“个体属性”，训练周期产生的权重值每次都会不同。所有初始权重都可以设置在一个小的随机值上，每层设置迁移阈值和学习率。

【讨论】：

我们还没有学习到学习模式，哦，等等，我们学会了，监督学习，这个项目更像是一个 GUI 的东西，所以老师可以看到我们了解神经网络应该如何工作，在以后的项目中，我们将不得不实现一个网络来解决问题。而且我们只会学习前馈，没有反向传播。
在这种情况下，我会保持简单。用户应指定层数、层大小和所有权重的最大随机初始权重值。对所有神经元使用单个阈值函数。有一件事：在上述情况下，您需要设置 3 个学习率：使用隐藏层时，用户应该能够为每个层设置不同的学习率。