一类新型共轭梯度算法

【摘要】：最优化是一门应用广泛、发展迅速的学科。尤其对于非线性优化问题寻找快速有效的算法一直是优化专家们研究的热门方向之一。最近人们提出了不少有效地算法如：共轭梯度算法和拟牛顿算法等，并试图证明它们的收敛性质。本文主要考虑求解无约束最优化问题的共轭梯度法。基于传统的Polak-Ribiere算法和Fletcher-Reeves算法，我们综合考虑二者的优势，提出了两种新型共轭梯度算法，在Grippo线搜索下证明了算法的全局收敛性。依照新算法，本文也取得了比较理想的数值结果。 在第一章我们首先简要的介绍了最优化问题的提出以及判断最优解常用的最优性条件，回顾了无约束优化问题常用的几类导数下降类算法。 在第二章中我们改进并证明了文[1]中的算法。基本思想是采用可以计算机实现的Grippo线搜索而不是文[1]中仅有理论意义的精确线搜索，并削弱文[1]中要求目标函数在水平集上二阶连续可微的前提条件，在较弱的条件下证明了算法的全局收敛性。而且，随后的数值实验结果也说明了算法较传统的算法更有效。 在第三章中我们将传统的Polak-Ribiere算法和Fletcher-Reeves算法以参数形式相结合，给出了求解无约束线性规划问题的一类带参数根号形式的新算法。采用Grippo线搜索，在适当的条件下我们证明了算法的全局收敛性，并以较优的数值结果说明了这类新算法的实用价值。