人工神经网络：选择初始神经元

Question

如何选择初始结构（神经元和它们之间的连接）？我的书只说我们在训练网络之前一开始就给连接随机权重。

我认为我们会在训练期间像这样添加神经元：

1. 从一个完全空的网络开始
2. 我在训练期间生成的第一个值将不存在
3. 添加一个神经元来对应这个值，随机权重

Answer 1

您所追求的是一个自组织的人工神经网络。通常，连接的组织方式是人为制作的模型，开发人员认为该模型将具有足够的能力来执行必要的计算。您当然可以从随机选择具有随机连接的节点开始，但这种网络的演进可能比标准的两层或三层网络需要更长的时间。

所以，是的，您是对的，您在创建自组织网络时会使用类似的方法。跟踪两组遗传算法，一组用于结构，另一组用于权重（或以某种迂回的方式将两者结合起来）并随心所欲地进化。

Answer 2

我不认为这个问题是关于自组织或 GA 进化的人工神经网络。这听起来更像是关于最常见的 ANN：感知器（单层或多层），在这种情况下，网络的结构：层数和层的大小，必须在开始时手动选择.初始化权重的一个简单的初始经验法则是简单地在 -1.0 和 1.0 之间选择均匀的随机值。