修正PRP共轭梯度法的收敛性

【摘要】： 共轭梯度法是求解最优化问题的一类有效算法.它尤其适合于求解大规模的优化问题.该类算法的一个显著优点是其存储量小且具有较好的收敛性.然而,已有的共轭梯度法大多数不能保证产生下降方向.有些共轭梯度法虽然具有下降性,但其下降性较强地依赖于算法所采用的线性搜索.本文研究求解无约束优化问题的一类共轭梯度法,修正PRP算法——MPRP算法.该算法的优点是不仅保持PRP算法的优良性质,而且算法产生下降方向的性质不依赖于所采用的线性搜索,搜索方向满足充分下降条件. 我们首先研究MPRP算法采用一类强Wolfe线性搜索的收敛性.在较弱的条件下,我们证明采用强Wolfe线性搜索的MPRP算法具有全局收敛性.另外,我们用三十四个标准测试函数对算法进行数值试验,并对本文算法与标准PRP算法进行比较,结果表明本文算法效果良好. 其次,我们将非单调线性搜索技术应用于MPRP算法.在适当的条件下我们证明在非单调线性搜索条件下MPRP算法的全局收敛性,我们也给出大量数值试验,验证方法的可行性与有效性.此外,注意到对于非线性程度不高的目标函数,单调线性搜索有一定优势.因此,在非单调线性搜索基础上,我们考虑将算法进行一些改进,即先用单调搜索迭代若干步后,再使用非单调搜索进行迭代.数值试验结果表明,这种混合线性搜索具有很好的数值效果.