用外行的话来说，LossFunction 和 OptimizationAlgorithm 有什么区别？

Question

我明白，训练网络就是找到正确的权重，优化算法决定权重 em> 被更新，直到出现获得正确预测所需的一个。

所以百万美元 que$tion$ 主要是：

(1.) 如果 optimization algorithms 更新 权重 loss functions 对网络的权重？

(2.) loss functions 是否仅特定于神经网络的输出层？ （我看到的大多数使用 deeplearning4j 框架的例子都是在输出层实现的）。

PS： 我真的很想以最简单的方式了解这两者之间的基本区别。我不是在寻找任何复杂的东西或一些数学爆炸。

Answer 1

optimization algorithm 尝试查找loss function 的minimum。在这点上weights 是理想的。