数值优化中，一阶确定性算法的收敛性分析有何经典案例？
本文共计587个文字，预计阅读时间需要3分钟。在上一篇博客中，我们介绍了数值优化算法的历史发展、分类及其收敛性分析基础。本文重点关注一种确定性优化算法及其收敛性分析。梯度下降法的基本思想是：最小化目标函数的梯度方向。其基本步骤如下：1. 初
数值优化：如何比较经典二阶确定性算法与对偶方法的效果？
本文共计3607个文字，预计阅读时间需要15分钟。在上一篇文章中，我们主要介绍了单机数值优化中一些经典的确定性算法。本文将重点介绍二级确定性算法和随机方法。牛顿法的核心思想是将目标函数在当前迭代点进行二阶泰勒展开，并利用二阶导数来预测函数的