收藏本站
《重庆大学》 2016年
加入收藏

无约束最优化问题与非线性方程组的若干解法研究

刘金魁  
【摘要】:本文主要研究求解大规模无约束最优化问题的非线性共轭梯度法和谱梯度法及它们的推广形式,并进一步扩展和构建求解大规模非线性单调方程组问题的无导数投影法,建立方法的全局收敛性定理,并利用大量的数值试验展示方法的有效性和稳定性。我们首先在第1章回顾了将要研究问题的背景和已有结果,然后阐述了本文的选题动机和主要工作。在第2-3章,我们从不同角度研究了求解无约束优化问题的杂交LS-DY共轭梯度法和三项HS共轭梯度法,分别记为HLSDY方法和TMHS方法。这两种方法的重要性质是HLSDY方法的搜索方向即满足D-L共轭条件又与牛顿搜索方向一致,TMHS方法的搜索方向即满足传统共轭条件又具有充分下降性质。重要的是,这些性质不依赖于线搜索条件。在精确线搜索下,HLSDY方法和TMHS方法分别退化为传统的LS方法和HS方法。对于非线性共轭梯度法,搜索方向的性质对于算法的收敛性研究和数值效果具有重要影响,我们在HLSDY方法中采用了著名的Powell重新开始准则,在强Wolfe线搜索条件下也证明了HLSDY方法能产生充分下降方向,且对一般无约束最优化问题具有全局收敛性。在适当的假设条件下,我们证明了TMHS方法在标准Wolfe线搜索下用于求解无约束最优化问题的全局收敛性。通过对CUTEr函数库中大量的无约束测试问题进行试验,大量数值结果表明,HLSDY方法和TMHS方法是非常有效的。我们在第4章提出一种修正的谱梯度法,该方法的一个重要特征是在没有任何线搜索时总能产生充分下降方向。在Armijo线搜索条件下,所提方法对求解无约束最优化问题具有全局收敛性。特别是,我们结合两阶段法将该方法应用于脉冲噪音去噪问题。在两阶段算法的第一阶段,采用自适应中值滤波方法来检测图像中的噪声点;在第二个阶段中采用修正的谱梯度法求解一个极小化问题来恢复检测到的噪声点。在第5章,基于一种修正的HS方法,我们首先提出一种求解大规模无约束优化问题的三项共轭梯度法,该方法的搜索方向满足D-L共轭条件,并在一定条件下与无记忆BFGS方法的搜索方向保持一致。然后,在Solodov和Svailter提出的投影技术基础上,我们推广上述方法建立求解大规模无约束非线性单调方程组问题的三项无导数投影法,记为TTDFP方法。在适当的假设条件下,我们证明了TTDFP方法的全局收敛性和R-线性收敛速度。在第6章,基于传统DY方法的稳定性和多元谱梯度方法的有效性,我们讨论了求解大规模非线性方程组问题的无导数多元谱DY型投影法,记为MSDYP方法。在适当的假设条件下,无需借助评价函数,我们证明了MSDYP方法对带凸约束条件的非线性单调方程组是全局收敛的,并且具有R-线性收敛速度。在第7章,针对压缩感知中的1正则化问题,在CGD方法的基础上我们研究了一种修正的无导数投影法。在适当的条件下,我们建立了方法的全局收敛性定理,并且给出了数值试验结果。最后,简要总结了本文内容,并且提出了一些遗留的问题和今后准备思考的问题。
【关键词】:无约束最优化问题 非线性方程组 非线性共轭梯度法 无导数投影法 全局收敛性
【学位授予单位】:重庆大学
【学位级别】:博士
【学位授予年份】:2016
【分类号】:O224
【目录】:
  • 中文摘要3-5
  • 英文摘要5-9
  • 符号表9-10
  • 1 绪论10-22
  • 1.1 非线性共轭梯度法10-13
  • 1.2 谱共轭梯度法13-16
  • 1.3 无导数投影法16-18
  • 1.4 本文的主要工作18-20
  • 1.5 本文的基本假设与重要引理20-22
  • 2 一种杂交的LS-DY方法22-36
  • 2.1 引言22-23
  • 2.2 算法及其充分下降性23-26
  • 2.3 全局收敛性分析26-27
  • 2.4 数值试验27-36
  • 3 一种修正的三项HS方法36-48
  • 3.1 引言36-38
  • 3.2 算法及其充分下降性38-41
  • 3.3 全局收敛性分析41-43
  • 3.4 数值试验43-48
  • 4 一种谱梯度法在脉冲噪声去噪中的应用48-56
  • 4.1 引言48-49
  • 4.2 算法及其充分下降性质49-51
  • 4.3 全局收敛性分析51-52
  • 4.4 数值试验52-56
  • 5 求解无约束非线性方程组的三项无导数投影法56-70
  • 5.1 引言56-57
  • 5.2 算法57-60
  • 5.3 全局收敛性和R-线性收敛速度60-63
  • 5.4 数值试验63-70
  • 6 求解约束非线性方程组的无导数多元谱DY型投影法70-80
  • 6.1 引言70-71
  • 6.2 算法71-72
  • 6.3 全局收敛性和R-线性收敛速度72-74
  • 6.4 数值试验74-80
  • 7 一种修正无导数投影法在压缩感知中的应用80-92
  • 7.1 引言80-81
  • 7.2 动机和算法81-82
  • 7.3 全局收敛性82-84
  • 7.4 数值试验84-92
  • 8 总结与展望92-94
  • 致谢94-96
  • 参考文献96-108
  • 附录108
  • A 作者在攻读博士学位期间发表的论文目录108
  • B 作者在攻读博士学位期间已完成但尚未发表的论文目录108
  • C 作者在攻读博士学位期间参加科研项目情况108

【相似文献】
中国期刊全文数据库 前10条
1 王斌;;共轭梯度法[J];黑龙江科技信息;2010年29期
2 张艳君;赵金玲;徐尔;;求解多集分裂可行问题的一种共轭梯度法[J];数值计算与计算机应用;2013年04期
3 解惠青;共轭梯度法的一个计算公式[J];南京航空航天大学学报;2000年06期
4 雷伟华;一类带非精确线搜索的共轭梯度法之收敛性[J];南宁师范高等专科学校学报;2000年03期
5 刘云,梁玉梅;几类非精确线搜索下共轭梯度法的收敛条件(英文)[J];广西科学;2001年01期
6 莫降涛;修正Hestenes-Stiefel共轭梯度法及其收敛性[J];广西大学学报(自然科学版);2001年01期
7 梁玉梅,刘云;一类新共轭梯度法在几种非精确线搜索下的收敛性(英文)[J];广西大学学报(自然科学版);2001年02期
8 谭欣星,席光;共轭梯度法在三维复杂流动数值分析中的应用[J];水动力学研究与进展(A辑);2002年01期
9 徐泽水;一类新的共轭梯度法(英文)[J];数学杂志;2002年01期
10 杜守强,陈元媛;一类在新的线搜索下的共轭梯度法[J];滨州师专学报;2002年04期
中国重要会议论文全文数据库 前10条
1 姚馨;倪勤;;解大规模优化问题的锥模型共轭梯度法[A];中国运筹学会第十届学术交流会论文集[C];2010年
2 孙树立;陈璞;;求解多右端向量方程组的块共轭梯度法及其相关研究进展[A];计算爆炸力学进展[C];2006年
3 霍伟娜;倪勤;;一个新的条件预优共轭梯度法[A];中国运筹学会第十届学术交流会论文集[C];2010年
4 王川龙;朱金香;;非单调混合共轭梯度法[A];管理科学与系统科学进展——全国青年管理科学与系统科学论文集(第4卷)[C];1997年
5 陈珑;刘兴高;;一种基于PRP共轭梯度法的新型动态优化方法及其应用[A];PCC2009—第20届中国过程控制会议论文集[C];2009年
6 李梅霞;王长钰;刘茜;;带扰动项的FR共轭梯度法[A];2006年中国运筹学会数学规划分会代表会议暨第六届学术会议论文集[C];2006年
7 王晨;张秀军;徐安农;;一类共轭梯度法的全局收敛性[A];第八届中国青年运筹信息管理学者大会论文集[C];2006年
8 陈璞;肖梃松;孙树立;袁明武;;预条件共轭梯度法的实现以及一些改进[A];第七届全国结构工程学术会议论文集(第Ⅰ卷)[C];1998年
9 连淑君;王长钰;;在Armijo型线搜索下共轭梯度法簇的全局收敛性[A];中国运筹学会第七届学术交流会论文集(上卷)[C];2004年
10 支希哲;孟光;徐松平;;多级隔振系统优化设计的共轭梯度法[A];数学·物理·力学·高新技术研究进展(一九九六·第六期)——中国数学力学物理学高新技术交叉研究会第6届学术研讨会论文集[C];1996年
中国博士学位论文全文数据库 前6条
1 黄元元;求解无约束优化问题及非线性方程组的共轭梯度法[D];西安电子科技大学;2014年
2 董晓亮;自适应共轭梯度法的研究[D];西安电子科技大学;2015年
3 刘金魁;无约束最优化问题与非线性方程组的若干解法研究[D];重庆大学;2016年
4 邓松海;若干新型谱共轭梯度算法及应用研究[D];中南大学;2013年
5 戴志锋;非线性共轭梯度法与鲁棒最优投资组合[D];湖南大学;2013年
6 钟萍;Newton-PCG型算法的效率分析[D];中国农业大学;2002年
中国硕士学位论文全文数据库 前10条
1 曾维强;含有多个参数的非线性共轭梯度法研究[D];广东技术师范学院;2015年
2 李双安;共轭梯度法在大规模信号重构问题中的应用[D];桂林电子科技大学;2015年
3 关哲;Wolfe线搜索下的共轭梯度法[D];渤海大学;2016年
4 汪丹戎;非线性共轭梯度法及全局收敛性分析[D];长江大学;2016年
5 陈倩;无约束优化的谱共轭梯度法和三项共轭梯度法研究[D];广西大学;2016年
6 陈洪敏;Wolfe线搜索下具有全局收敛性的混合共轭梯度法[D];重庆师范大学;2016年
7 吴双江;基于DAI-LIAO型方法和WEI-YAO-LIU型方法的混合共轭梯度法[D];重庆师范大学;2016年
8 陈钰婷;求解大规模无约束优化问题的共轭梯度法[D];北华大学;2016年
9 郑丽;几种共轭梯度法的研究[D];重庆大学;2009年
10 邓小红;一类新型的杂交共轭梯度法[D];广西大学;2007年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026