求解方程组和光滑模型的共轭梯度法研究

【摘要】：随着科技的发展以及对大数据中的海量信息分析和提取的需要,越来越多的实际问题转化为大规模的数学问题.优化问题作为数学的一个重要研究领域,为社会、经济等领域提供了性价比较高的解决方案,有效节约了资源和降低了成本.其中,大规模非线性方程组因在气候预测、工程设计、物理学、金融等方面的广泛应用而引起了广大学者的关注.共轭梯度、牛顿系列、信赖域等算法是求解非线性方程组和光滑问题的有效工具.本文在已有研究结果的基础上,提出修正三项共轭梯度法和非线性共轭梯度法分别求解大规模非线性方程组模型和光滑问题并介绍和证明了两种算法的重要数学性质.针对大规模非线性方程组模型,本文基于经典的LS公式、三项共轭梯度公式以及投影技术,提出了新的三项共轭梯度算法.其中,算法不需其他条件下自动具有充分下降性和信赖域性质,在一般的假设条件下具有全局收敛性.算法的数值实验证明比类似的优化算法有着更高的算法效率.针对大规模光滑问题,基于最速下降法的特点,结合流行的线搜索技术和新的搜索方向提出了非线性共轭梯度法.其中,算法不仅自动具有充分下降性、信赖域性,满足一定的条件时具有全局收敛性,而且算法在每次的迭代过程中有更大的下降量,因此有了较快的收敛速度.一定程度上,新算法不仅丰富了优化理论知识,而且数值实验证明算法具有较强的竞争性.