我们在上一篇博客中介绍了数值优化算法的历史发展、分类及其收敛性/复杂度分析基础。本篇博客我们重点关注一阶确定性优化算法及其收敛性分析。梯度下降法的基本思想是:最小化目标函数在当前迭代点处的一阶泰勒展开,从而近似地优化目标函数本身。具体地,对函数 相关文章: 2021-11-13 2022-12-23 2022-12-23 2021-06-07 2021-12-24 2021-10-03 2021-07-07 2021-07-18