【发布时间】：2015-05-11 22:37:17
【问题描述】：
我已经实现了一个神经网络来解决与音频回归（真实回归）相关的问题，它基于多层感知器。通过互联网阅读文档、科学文章和其他一些实现，我得出的结论是多层感知器不足以解决我的问题，因为如果输出是二进制的，它工作得很好，但我需要真正的输出，如果输出在 (0,1) 范围内，则独立。
问题是网络没有正确训练，因为当我连续呈现相同的示例时，它会在激活函数的梯度方向上正确调整权重，但是当训练随机选择训练示例时，不会效果不好。
我曾想过在训练集的每个EPOCH之后使用遗传算法调整权重，以指导网络的权重调整。
谁能指导我一点？我还考虑过使用另一种网络结构作为 Adaline，或者即使它变得丑陋，尝试实现一个支持向量机（我不喜欢 xD）
非常感谢您
【问题讨论】：
-
如何提供随机训练实例，作为小批量还是一个一个？
-
还有回归输出的范围是多少。
-
一个一个，回归输出也是（0,1）。实际上，我不是用真实的音频进行训练，而是用不同的函数进行测试，如 f(x) = x 或 f(x) = x^2
-
尝试以小批量提供数据，例如每批 100 个实例（取决于您的总数据大小）。但请记住，当您减少每次迭代的实例数时，您也应该降低学习率，因为梯度步骤会更加复杂。也许这就是为什么你不能用一种方法来学习的原因。
-
好的！我会试试的，我会告诉你的。谢谢！
标签： artificial-intelligence neural-network genetic-algorithm