关于奇异的非线性方程组与奇异的非线性最优化方法的研究

【摘要】：本文主要研究求解奇异的非线性方程组和非线性最优化问题的数值方法,包括求解 非线性方程组的增广ABS投影算法和利用序列子空间变换方法的修正Brown算法,以 及求解奇异无约束非线性规划问题的张量BFGS方法. 1. 第2章、对求解奇异的非线性方程组问题的增广ABS投影方法进行研究.本章第二节 假定Rank(F’(x*))=n-1,然后利用零度空间Null(F’(x*))={u},Null(F’(x*)T)= {u}的性质建立了一个与原方程组F(x)=0具有同解的满秩的非线性扩张方程组 T(x)=0. 由于函数T(x)涉及到精确的零度空间向量u,v,因而我们采用一种序 列子问题的迭代方法.每个子问题是由当前的迭代点信息xk,uk,vk确定的模型: Tk(x)=0,(k=1,2,…,),并且有性质:limk→∞Tk(x)=T(x).我们的算法是对每个 子问题Tk(x)=0采用修正的ABS算法.并且证明了所给出的数值算法是局部二次收 敛的.在第三节里,把第二节的秩亏假定推广为Rank(F’(x*))=n-s,(1≤sn), 进一步讨论奇异的非线性方程组问题F(x)=0的求解.采用和第二节类似的思想, 依据对零度空间建立的逼近矩阵序列Uk,Vk建立起更一般的序列子问题Tk(X)=0, 再用修正的ABS投影方法依次解每个子问题,我们得到了任意秩亏(sn)的奇 异非线性方程组问题的增广ABS投影方法,并证明了该数值算法仍然是局部二次收 敛的. 2. 第3章、讨论奇异非线性方程组的空间旋转变换方法.本章的主要思想是先引进空间 线性变换构造与原问题同解同维的非奇异的模型T(x)=0,然后把该问题分解成序列 子问题Tk(x)=0. 在第二节构造了简单奇异点迭代算法.这个非奇异模型T(x)=0 同样要用到零度空间Null(F’(x*))的-个非零解c*.但是,由于非零解c*是未知的, 所以在迭代过程中就形成一个迭代子问题序列Tk(x)=0,(k=1,2,…,),每个子问 题依然采用修正的.ABS投影方法;并且证明了所给出的数值算法仍然是局部二次收 敛的.在第三节中,在把秩亏假定推广为Rank(F’(x*))=n-s,(1≤sn)时,推 广了第二节中提出的空间线性变换思想.把模型T(x)=0推广到更一般的情形,同 时利用对零度空间的逼近向量构造了迭代子问题序列Tk(c)=0. 对每个Tk(x)=0 采用修正的Brown算法构造了一个新算法,并证明了该算法的局部二次收敛率;在 本章的最后,我们给出了一些数值例子。这些例子的数值结果显示,本章提出的新 算法对于求解奇异非线性方程组问题,要优于Frank,Schnabel提出的Tensor算法. 第4章、给出了求解奇异的无约束凸规划的张量BFGS方法.本章的主要思想是将 奇异的无约束凸规划间题化为等价的非奇异优化问题.然后利用修正的BFGS算法 求解.在第二节讨论求解Hesse矩阵为秩亏一的奇异无约束非线性优化问题,给出 了一类求解无约束优化问题的修正BFGS算法.算法的思想是对凸函数加上一个和 Hesse矩阵的零度空间有关的二阶修正项,得到一个等价的模型,然后将模型简化, 对简化后的模型建立了修正的BFGS算法.文中证明了该算法是一个具有超线性收 敛的算法,并且把修正的BFGS算法同Tensor方法进行了数值比较,验证了该算法 对求解秩亏一的无约束凸规划问题更有效.第三节对于凸函数在极值点的Hesse矩 阵是任意秩亏的情况下,给出了一类求解无约束优化问题的修正B FGS算法.算法 的思想依然提织寸凸函数加上一个修正项,得到一个更一般的等价模型.采用和第二节 类似的思想建立了一个带有自调节的修正的BFGS算法.文中证明了该算法仍具有 超线性收敛速率,并且把修正的BFGS算法同Tensor方法进行了数值比较,依然验 证了该算法对求解某些秩亏的无约束凸规划问题更有效. 关键词:奇异的非线性方程组,无约束凸规划,拟牛顿方法,增广BFGS算法,非线性 ABS投影算法,Br~算法,局部超线性收敛,秩亏的Hesse矩阵.