【问题标题】:How to provide the gradient function GradientDescentOptimizer如何提供梯度函数 GradientDescentOptimizer
【发布时间】:2019-03-20 06:50:10
【问题描述】:

我见过几个使用 GradientDescentOptimizer 的例子。 这是一个很好的

Tensorflow GradientDescentOptimizer example

上例中的模型是:

y_model = tf.multiply(x, w[0]) + w[1]

我们是否提供 tensorflow 的梯度函数?它是如何知道如何计算梯度的?

【问题讨论】:

    标签: python tensorflow


    【解决方案1】:

    不,我们不提供渐变功能。这就是 TF 和许多其他 DL 框架使用的自动微分的美妙之处。

    知道您需要优化的功能后,微分器使用规则对程序的每个元素进行求导(当您在核心 TF 中定义任何操作时,you need to register a gradient for this op)。它还使用chain rule 将复杂的表达式分解为更简单的表达式。

    有关更多信息,请查看以下答案:

    【讨论】:

      猜你喜欢
      • 2020-08-25
      • 1970-01-01
      • 2022-01-07
      • 1970-01-01
      • 2021-10-26
      • 1970-01-01
      • 2017-07-18
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多