收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

线性不等式约束下的EM算法

郑术蓉  
【摘要】:不完全数据(包括缺失数据、潜在数据等)问题的研究和半序约束下的统计推断都是统计学中重要的研究领域,广泛地应用于工程学、生物学、医药学、经济学和社会科学。在很多情况下这两类问题是同时出现的,因此对它们同时进行研究具有很强的应用背景和实际意义。 对于不完全数据问题的研究中EM算法是求解极大似然估计的一种强有力的算法。EM算法最基本的思想来自遗传学家估计ABO血型的基因频率,即“gcne-counting method”。由Dempster,Laird and Rubin(1977)提出的EM算法是一种迭代算法,在每次迭代中又分为两步;E步和M步,即期望步(Expectation Step)和最大化步(Maximization Step)。 EM算法自提出以来,许多统计学家对它的发展和推广做出了很大的贡献(Mclachlan et al.,1997).Walker(1996)提出利用Montc Carlo的方法,例如MCMC或重要性抽样的方法解决EM算法E步的计算问题。Meng and Rubin(1993)提出了ECM算法,基本的思路是用条件最大化CM步代替EM算法中的M步,从而达到简化的目的。Liu and Rubin(1994)提出了ECME算法,建议用条件最大化不完全似然代替ECM算法中的部分CM步,因此是ECM算法的一种推广。Fessler and Hcro(1994)提出了SAGE算法,其想法 吉林大学博士学位论文 线性不等式约束下的EM算法 是把参数向量分割为几个子参数向量·Meng and van Dyk(1995)把ECME 和SAGE算法结合在一起得到了AECM算法. 自二十世纪五十年代以来,半序约束下的参数估计间题的研究取得了很 大的发展,现在仍然有很多人致力于这方面的研究.半序约束形式是多种多样 的,并且根据不同的形式往往可以建立针对性很强的统计方法,详见B arlow, Bartholomew,Brenner and Brunk(1972)和Robertson,Wright and Dykstra (1988)两本书.2002年Journal of Statistieal planning and Inferenee设立 专刊讨论近几十年来这方面的工作.GaoandShi(2003),和Shiandzheng (20叫讨论了列联表中参数在半序约束下的极大似然估计.但这些问题本身都 可以用一种很简单的形式表达出来,即A。口全0,其中A。是一个已知矩阵, 月是被约束的向量.这种表示的一个自然推广是A。口之a,其中a可以是一个 不为零的向量,称为一般的线性不等式约束.当AO月=a时,称这种约束为 线性等式约束. 尽管一些研究人员已经对含缺失数据的参数约束估计间题进行了讨论, 例如Kim andTaylor(1995)在J.A.S.A上讨论了缺失数据间题中参数在线性 等式约束下的参数估计问题;Razzaghi and Kodell(2000)在Biometries上 得到了含缺失数据问题中一种很特殊情况下的非线性等式约束估计,从而解 决了药物剂量反应中定量反应的风险评价间题.但是如前所说,对AO口七a 这种线性不等式约束情况下的统计推断间题的研究具有更广泛的应用背景和 实际意义.很显然,Kim andTa夕lor(1995)的方法不适用于这种更一般的间 题.并且Meng and Rubin(1993)和Liu and Rubin(1994)关于EM算法中 M步的改进也均不适用于这个问题. 基于以上原因,本文提出了线性不等式约束下的EM算法,针对线性模 型,混合线性模型和广义混合线性模型特别是Logistic模型进行了讨论,给出 了关于线性不等式约束EM算法系统的理论和方法.本文分为五章:第一章 吉林大学博士学位论文 线性不等式约束下的EM算法 介绍与本文相关的必要知识和有关结果;第二章讨论含缺失数据的线性模型 中参数被线性不等式约束时的统计推断问题.令线性模型为 Y二X口+氏 (1) 其中误差。、N(0,功,数据Y出现部分缺失,参数尽受线性不等式A声七a 的约束.本章讨论了方差艺已知条件下参数口在线性不等式约束下的统计推 断间题,提出了线性不等式约束EM算法,证明了算法的收敛性和所得估计 的相合性并解决了一个相关的检验间题;第三章讨论含缺失数据的线性模型 (l)中讨厌参数存在时感兴趣的参数在线性不等式约束下的统计推断间题;第 四章讨论含缺失数据的混合线性模型中参数在线性不等式约束下的统计推断 间题;第五章讨论含缺失数据的广义混合线性模型特别是Logistic模型中参 数在线性不等式约束下的统计推断问题.主要结果如下: (一)线性模型(l)中参数口受线性不等式约束且方差阵E已知时的 约束EM算法.假定(Y,,…,Y动是模型(l)的一个大小为n的样本,并有 部分缺失,我们关心的间题是口在线性不等式AO月全a约束下的统计推断问 题,其中A。是一个事先给定的矩阵,艺是已知的方差阵. 直接由观测似然出发去寻找口在线性不等式约束下的极大似然估计是非 常困难的.由于完全数据的似然函数具有较简洁的形式,于是利用EM算法给 缺失数据补值来求解这个间题,但是遇到的困难是参数被一些线性不等式约 束.尽管Kim and Taylor(2001),Razzaghi and Kodell(2000)也研究T约束 下的EM算法,但是他们仅对等式约束进行了研究,而线性不等式约束由于具 有更大的难度一直没有被解决.本文的第二章解决了这个问题,提出了线性模 型中的线性不等式约束EM算法.在M步中利用一般化了的Kudo(1963) 的算法(我们已在文中给出了解的充要条件、解的显示表达式及证明并给出了 相应的算法)?


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 徐成贤;不等式约束非线性最小二乘问题的一个解法[J];工程数学学报;1989年01期
2 景书杰;曹香莲;;不等式约束下的广义几何规划的一种有效算法[J];河南理工大学学报(自然科学版);2008年04期
3 马海强;;不等式约束条件下部分线性回归模型的参数估计[J];数学理论与应用;2008年03期
4 方龙祥;;不等式约束下的生长曲线模型中线性估计的可容许性[J];安徽师范大学学报(自然科学版);2010年03期
5 邱润之;;关于高阶ARMA模型的平稳可逆域[J];曲阜师范大学学报(自然科学版);1981年03期
6 王秀国,邱菀华;一种解决不等式约束优化问题的光滑牛顿法[J];运筹与管理;2004年05期
7 宋迎春;左廷英;朱建军;;带有线性不等式约束平差模型的算法研究[J];测绘学报;2008年04期
8 王浩波;袁权龙;;带不等式约束的线性模型中非齐次线性预测的可容许性[J];经济数学;2006年04期
9 欧阳文森;朱建军;;虚拟误差方程解决附不等式约束的平差问题[J];测绘通报;2007年01期
10 冯光财;朱建军;陈正阳;邓晓嘉;;附不等式约束的病态问题求解研究[J];工程勘察;2007年07期
11 谢建;朱建军;;附不等式约束最小二乘平差的一种新算法[J];测绘科学;2010年03期
12 陈玉;陈内萍;段玉;;一个求解不等式约束优化问题的非内点型可行QP-free算法[J];湖南师范大学自然科学学报;2011年04期
13 诸骏伟;金心明;朱正明;;一种快速收敛的牛顿法最优潮流[J];东南大学学报(自然科学版);1992年04期
14 何道江;郭大伟;;不等式约束下线性模型中回归系数的所有可容许估计[J];吉林大学学报(理学版);2006年06期
15 朱建军;欧阳文森;文小岳;;基于遗传算法解决附有不等式约束的最小二乘平差问题的研究[J];工程勘察;2006年03期
16 江宁;戴扬;;二次损失下齐次线性估计类中关于不等式约束的可容许估计[J];芜湖职业技术学院学报;2007年02期
17 何道江;郭大伟;;不等式约束下线性模型中线性估计的可容许性[J];数学杂志;2010年04期
18 郑竹林;具有不等式约束的二次规划问题的筛选法[J];河南职技师院学报;1998年02期
19 黄远灿;;一种新的Lagrange乘子法[J];北京理工大学学报;2007年10期
20 王乐洋;朱建军;;附不等式约束的大地测量反演[J];大地测量与地球动力学;2008年01期
中国重要会议论文全文数据库 前10条
1 王刚;梁昌洪;;慢衰减不等式[A];1995年全国微波会议论文集(上册)[C];1995年
2 王乐洋;朱建军;;附不等式约束的大地测量反演理论[A];中国地球物理学会第二十三届年会论文集[C];2007年
3 谢建;朱建军;;二维情形下不等式约束对平差的影响分析[A];第二届“测绘科学前沿技术论坛”论文精选[C];2010年
4 张环;潘平奇;;线性规划的一个内点算法[A];中国运筹学会第九届学术交流会论文集[C];2008年
5 李钟侠;朱建武;;多变量稳定区间对象的鲁棒控制问题[A];1997中国控制与决策学术年会论文集[C];1997年
6 王建宏;林道荣;;具线性矩阵不等式约束半定规划问题的一种原始-对偶中心路径算法[A];第九届中国青年信息与管理学者大会论文集[C];2007年
7 李杰;简金宝;郭传好;马国栋;;不等式约束极大极小问题一个强收敛的强次可行算法(英文)[A];中国运筹学会第九届学术交流会论文集[C];2008年
8 赵瑞杰;赖晓平;;带约束的复FIR数字滤波器Chebyshev设计算法[A];第十二届全国信号处理学术年会(CCSP-2005)论文集[C];2005年
9 宋玉阶;吴怀宇;;一般等式约束二次优化问题的神经计算方法[A];1999中国控制与决策学术年会论文集[C];1999年
10 李绍刚;段复建;任阿娟;;求解不等式约束极大极小问题的一种熵函数法[A];中国运筹学会第八届学术交流会论文集[C];2006年
中国博士学位论文全文数据库 前10条
1 王寿光;基于简化技术的离散事件系统控制器的综合[D];浙江大学;2005年
2 苏玉霞;关于一类由正倒向随机微分方程衍生的模型的半参数统计推断[D];山东大学;2009年
3 吴维敏;离散事件系统的Petri网控制器综合[D];浙江大学;2002年
4 潘少华;拉格朗日正则化方法与线性规划原—对偶算法的研究[D];大连理工大学;2002年
5 李彬;含状态和控制约束的最优控制问题和应用[D];哈尔滨工业大学;2011年
6 李山春;生产过程稳态模型的寻优方法及应用研究[D];中南大学;2011年
7 王祝君;非线性优化问题的过滤线搜索方法[D];上海师范大学;2010年
8 左廷英;基于先验约束信息的变形监测滤波算法研究[D];中南大学;2011年
9 张尚立;不等式约束线性模型的可容许性估计理论[D];北京交通大学;2012年
10 陈宇波;带有先验信息的动态定位贝叶斯滤波算法研究[D];中南大学;2010年
中国硕士学位论文全文数据库 前10条
1 刘淑芹;不等式约束的一种修改的罚函数方法[D];北京工业大学;2003年
2 陈现平;不等式约束优化问题的信赖域方法[D];曲阜师范大学;2002年
3 曾磊;附不等式约束平差模型的理论与方法[D];中南大学;2011年
4 汪海;整合数据校正的过失误差侦破方法研究[D];青岛科技大学;2006年
5 唐春明;约束优化无严格互补的超线性收敛SQP强次可行算法[D];广西大学;2005年
6 谢建;不等式约束最小二乘平差及在卡尔曼滤波中的应用[D];中南大学;2009年
7 王涛;不等式约束下线性模型的影响分析[D];中南大学;2006年
8 段智力;不等式约束下一类线性模型参数估计的渐近解及其收敛性[D];吉林大学;2006年
9 蔡庆秋;解不等式约束最优化问题的修正拟牛顿算法[D];南京航空航天大学;2007年
10 江宁;随机效应线性模型在不等式约束下的可容许估计[D];安徽师范大学;2007年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978