【发布时间】:2017-06-19 04:34:34
【问题描述】:
梯度下降和delta规则有什么区别?
【问题讨论】:
-
是的,我读过那些文章,但它们太超前了,我无法理解。有人可以解释一下吗?
标签: neural-network
梯度下降和delta规则有什么区别?
【问题讨论】:
标签: neural-network
没有数学:delta 规则使用梯度下降来最小化感知器网络权重的误差。
梯度下降是一种通用算法,它逐渐改变参数向量以最小化目标函数。它通过向阻力最小的方向移动来做到这一点,即具有最大(负)梯度的方向。
你可以通过对目标函数求导来找到这个方向。这就像在平坦的丘陵景观中丢下一块大理石。它仅保证局部最小值。因此,简短的回答是,delta 规则是使用一般算法梯度下降的特定算法。
【讨论】: