收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

求解带约束的最小二乘问题的两种新解法

仲爱新  
【摘要】:对于求解带约束的最小二乘问题(简称LSQI问题) min‖Ax-b‖2,A∈R~(m×n),m≥n s.t‖Bx-d‖2≤α,B∈R~(p×n) (0.1) 本文把所述的问题看作是一个最优化问题,提出了借助最优化方法求解带约束的最小二乘问题的两种新的解法。本文提出了运用并行单纯形法和可行下降方向法分别求解此问题。本文首先借助于割平面法将问题(0.1)的非线性约束化成线性约束,然后将线性约束转化为无约束问题来求解。从而获得一个比较满意的初值估计。然后从初始解出发依次迭代分别运用并行单纯形法和可行下降方向法求解问题(0.1)。并行单纯形法是一种直接方法,它具有不用计算导数,并行性好但对初值有依赖性,精度不高的特点。对于大规模的LSQI问题,可行下降方向法具有精度高的特点(可参见数值试验三,四,六,七,八)(与割平面法和并行单纯形法以及广义奇异值分解法相比)。可行下降方向法利用割平面法求得的一个初值,然后通过求解一系列的线性规划求得可行下降方向,依次迭代求得最小二乘解。由于割平面法具有收敛快,计算量小(可参见数值试验一)的特点,所以作为初值估计是比较实用的。经过大量的数值实验证明,可行下降方向法是求解带非线性约束的最小二乘问题的有效解法,它克服了割平面法精度差的缺点,对于求解大规模的带约束的最小二乘问题,从精度这方面来说大大优于广义奇异值分解。(可参见数值试验七,八)对于并行单纯形法,若是小规模的最小二乘问题,在精度方面,并行单纯形法比广义奇异值分解的效果差,在速度方面,若考虑到并行度,并行单纯形法比广义奇异值分解的速度快。但是对于大规模的最小二乘问题,并行单纯形法在精度上优于广义奇异值分解,在收敛速度方面上劣于广义奇异值分解。(可参见数值试验三,四) 总之,对于小规模的带约束的最小二乘问题,广义奇异值分解法是一种比较好的方法。(可参见数值试验一,二,九)但是若A~TA为人规模矩阵或大型稀 疏矩阵时,厂‘义奇汁值分解i去注往由于毛1算量太大而不能进行1、‘去’川丁参见文 献}21第671臾)l(TJ且会破坏稀疏川‘阵的稀疏队。而本算法则不会破坏稀疏矩阵的稀 疏性,保持了稀疏知阵原有的稀疏J性。经过大量的数值实验证明,对f大规模的 矩阵或大型稀疏矩阵,可行下降方向法是一种有效的算法。(可参见数值实验卜, 十一)它克服了割平面法的缺点,对于求解大规模的带约束的最小一乘问题要优于 广‘义奇异值分解法和并行单纯形法。 对于带约束的最小二乘问题 二乞n{}Ax一b}}2 5.艺j}Bx一dj,2三a 其中A任Rm‘“,B任招‘“,b任Rm,d任尸,x任R”.它可转化为 戚nllAx一bII孟 s川Bx一aIl呈三矿 (0 .2) 、、口产 9目 . ﹃.上 Zr.、 。讯f(x)=xT了厂Ax一ZbTA二十犷b 。.t武x)二xTBTBx一ZdTBx十dTd一护三。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 王华;;解非线性互补问题的非单调可行SQP方法[J];运筹学学报;2011年02期
2 周立平;邓小辉;;矩阵方程AX=B的加权最小二乘对称、反对称解及其最佳逼近[J];湖南科技学院学报;2011年08期
3 王乐洋;许才军;;附有相对权比的总体最小二乘平差[J];武汉大学学报(信息科学版);2011年08期
4 何郁波;林晓艳;董晓亮;;非线性不等式组的光滑近似方法及其收敛性[J];应用数学学报;2011年04期
5 陈震;王炫盛;卢琳璋;;非负张量分解的不平衡乘性更新[J];数学研究;2011年02期
6 ;[J];;年期
7 ;[J];;年期
8 ;[J];;年期
9 ;[J];;年期
10 ;[J];;年期
11 ;[J];;年期
12 ;[J];;年期
13 ;[J];;年期
14 ;[J];;年期
15 ;[J];;年期
16 ;[J];;年期
17 ;[J];;年期
18 ;[J];;年期
19 ;[J];;年期
20 ;[J];;年期
中国重要会议论文全文数据库 前10条
1 张青富;焦李成;保铮;;实时求解最小二乘问题的LSSM神经网络[A];全国青年管理科学与系统科学论文集(第2卷)[C];1993年
2 陈杰;陈一鸣;张拥萍;;GMRES(m)中极小化的一种新算法[A];第九届中国青年信息与管理学者大会论文集[C];2007年
3 郑金鑫;杜军平;;基于Levenberg-Marquardt算法的图像拼接研究[A];2009年中国智能自动化会议论文集(第三分册)[C];2009年
4 卢振泰;冯前进;陈武凡;;基于鲁棒估计的医学图像多分辨率配准[A];中国生物医学工程进展——2007中国生物医学工程联合学术年会论文集(上册)[C];2007年
5 侯忠生;韩志刚;;加权的慢时变非线性系统改进最小二乘辨识算法[A];1993中国控制与决策学术年会论文集[C];1993年
6 刘歆;;二次最小二乘问题的全局化算法(英文)[A];中国运筹学会第九届学术交流会论文集[C];2008年
7 王晓;韩崇昭;万百五;;非线性NARMAX模型辨识的改进直交化最小二乘新算法[A];1997中国控制与决策学术年会论文集[C];1997年
8 阙肖峰;聂在平;;一类基于MLFMA的分组稀疏近似逆预条件技术[A];2009年全国天线年会论文集(上)[C];2009年
9 陈超贤;;两种稳健波束形成器的敏度分析[A];泛在信息社会中的声学——中国声学学会2010年全国会员代表大会暨学术会议论文集[C];2010年
10 任章;;基于神经网络的并行参数辨识[A];1994中国控制与决策学术年会论文集[C];1994年
中国博士学位论文全文数据库 前10条
1 王茜;系统解耦和极点配置问题与不定最小二乘问题[D];华东师范大学;2009年
2 郑恩希;非多项式最小二乘有限元法在几种散射问题中的应用[D];吉林大学;2012年
3 刘巧华;若干最小二乘问题的舍入误差研究[D];华东师范大学;2005年
4 梁开福;几类约束耦合矩阵方程问题的迭代算法研究[D];湘潭大学;2011年
5 裘渔洋;线性约束矩阵最小二乘问题:理论与算法[D];浙江大学;2007年
6 吴颉尔;正则化方法及其在模型修正中的应用[D];南京航空航天大学;2007年
7 桂冰;结构动力模型修正的数学理论与方法[D];南京航空航天大学;2005年
8 赵丽君;几类特殊线性约束矩阵方程问题及其最佳逼近问题[D];湖南大学;2008年
9 常海霞;线性矩阵方程组的各种对称解[D];上海大学;2009年
10 张剑尘;几类特殊约束矩阵方程问题及基最佳逼近问题[D];湖南大学;2009年
中国硕士学位论文全文数据库 前10条
1 仲爱新;求解带约束的最小二乘问题的两种新解法[D];新疆大学;2004年
2 张宏伟;关于最小二乘问题近似解误差估计的进一步研究[D];中国海洋大学;2011年
3 史存琴;广义双曲奇异值分解及在广义逆和不定最小二乘问题中的应用[D];兰州大学;2011年
4 欧洋君;几类矩阵方程不定最小二乘问题的研究[D];湖南科技大学;2011年
5 於屺牥;LLL算法的分析和应用[D];复旦大学;2010年
6 王菊香;秩约束下几类特殊矩阵方程最小二乘问题及其最佳逼近问题[D];湖南大学;2012年
7 赵娜;最小二乘问题最佳向后误差的线性化估计[D];中国海洋大学;2011年
8 于蕾;几类约束矩阵方程问题的研究[D];西北工业大学;2006年
9 张德才;求解BTTB最小二乘问题的BTTB预处理矩阵[D];汕头大学;2008年
10 卢俊峰;矩阵方程CZC~T=T的线性约束最小二乘解[D];浙江大学;2006年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978