1.回顾logistic回归,下式中a是逻辑回归的输出,y是样本的真值标签值

吴恩达深度学习:2.9逻辑回归梯度下降法(Logistic Regression Gradient descent)

  (1)现在写出该样本的偏导数流程图。假设这个样本只有两个特征x1和x2, 为了计算z,我们需要输入参数w1、w2和b还有样本的特征值x1和x2,用这个来计算偏导数的计算公式吴恩达深度学习:2.9逻辑回归梯度下降法(Logistic Regression Gradient descent),然后我们可以计算y^就是a,即吴恩达深度学习:2.9逻辑回归梯度下降法(Logistic Regression Gradient descent),最后计算L(a,y),在逻辑回归中,我们要做的就是变换参数w和b的值,来最小化损失函数l(a,y)。现在看看怎样向后传播计算偏导数:

吴恩达深度学习:2.9逻辑回归梯度下降法(Logistic Regression Gradient descent)

  要计算损失函数L的导数,首先要向前一步,计算损失函数的导数:

吴恩达深度学习:2.9逻辑回归梯度下降法(Logistic Regression Gradient descent)

 

   接下来再向后一步计算dz,dz是损失函数l关于z的导数,对于dl下面的两种形式都可以:

  吴恩达深度学习:2.9逻辑回归梯度下降法(Logistic Regression Gradient descent)

  向后传播的最后一步:

  

 

  

 

相关文章:

  • 2021-09-21
  • 2021-10-21
  • 2021-10-22
  • 2021-06-21
  • 2021-09-28
  • 2021-12-11
  • 2021-12-14
  • 2021-06-18
猜你喜欢
  • 2021-11-27
  • 2021-06-19
  • 2021-11-15
  • 2021-04-13
  • 2021-10-29
  • 2021-07-06
相关资源
相似解决方案