【发布时间】:2019-03-20 06:50:10
【问题描述】:
我见过几个使用 GradientDescentOptimizer 的例子。 这是一个很好的
Tensorflow GradientDescentOptimizer example
上例中的模型是:
y_model = tf.multiply(x, w[0]) + w[1]
我们是否提供 tensorflow 的梯度函数?它是如何知道如何计算梯度的?
【问题讨论】:
标签: python tensorflow
我见过几个使用 GradientDescentOptimizer 的例子。 这是一个很好的
Tensorflow GradientDescentOptimizer example
上例中的模型是:
y_model = tf.multiply(x, w[0]) + w[1]
我们是否提供 tensorflow 的梯度函数?它是如何知道如何计算梯度的?
【问题讨论】:
标签: python tensorflow
不,我们不提供渐变功能。这就是 TF 和许多其他 DL 框架使用的自动微分的美妙之处。
知道您需要优化的功能后,微分器使用规则对程序的每个元素进行求导(当您在核心 TF 中定义任何操作时,you need to register a gradient for this op)。它还使用chain rule 将复杂的表达式分解为更简单的表达式。
有关更多信息,请查看以下答案:
【讨论】: