收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

基于处罚经验似然和跳惩罚最小二乘的变量选择

任允文  
【摘要】:高维数据的变量选择问题最近十几年来一直是统计及其相关领域研究的热点,基于线性回归模型讨论变量选择方法的文章层出不穷,基于其它模型讨论变量选择方法的文章也层见迭出.最近,大多数文章讨论的热点是基于损失函数加惩罚函数的变量选择方法,以及与其对应的规范化参数选取的准则和惩罚估计的算法.我们主要研究了矩条件模型下的变量选择,包括线性回归模型,广义线性模型,分位数回归模型,部分线性模型和时间序列模型等满足某些矩条件的模型. 在论文的第2章和第3章,对一般的矩条件模型,我们提出了基于非凸惩罚函数的惩罚经验似然方法来进行变量选择,分别得到了参数维数固定和参数维数随样本量同时增大时惩罚经验似然估计的Oracle性质,即模型选择过程的相合性和非零参数估计的渐近正态性.我们提出了修正的LQA-Newton-Raphson算法和相合的BIC类型准则来分别应对惩罚经验似然估计的优化计算和规范化参数的选取.另外,在避免估计选入模型的参数方差的同时,类似于经验似然的似然比统计量,惩罚经验似然的惩罚经验似然比统计量可以用来构造区间估计和假设检验统计量. 在论文的第4章,我们对线性回归模型提出了跳惩罚函数,得到了基于跳惩罚函数的惩罚最小二乘估计——跳择估计以及自适应跳择估计.跳择估计可以视为最优子集回归估计,因为其非零参数的估计是最小二乘估计.在一定条件下,我们可以得到参数个数固定时和参数个数随样本量同时增大时(自适应)跳择估计的Oracle性质,该估计自然满足无偏性.我们提出了跳算法来处理跳择估计的优化计算,该算法和经典的LARS算法每一步的计算量相同,并且,自适应跳算法能够以概率趋向于1保证重要解释变量优先进入模型.为了应对变量选择过程中存在的多重共线性问题,借助于岭回归的思想,我们提出了(自适应)岭跳估计.岭跳估计的渐近性质和岭跳算法分别与跳择估计的渐近性质和跳算法相对应,但是岭跳算法凭借岭回归克服多重共线性作用可以直接处理高维数据的变量选择.另外,在解释变量间满足不完全正交条件时,在处理超高维变量选择时,边际跳择估计以概率趋向于1将重要解释变量和非重要解释变量区分开. 在论文的第5章,我们提供了两种方法来处理向量自回归模型的模型选择.第 一种方法是直接对向量自回归模型拉直后用线性回归模型的惩罚方法同时定阶和选取子集;另外一种方法是先定阶后选取子集,我们提出了组跳算法在定阶的同时选出模不为的零系数矩阵所对应的滞后变量组,然后基于选出的向量自回归模型采用第一种方法选取子集.在一定条件下,两种方法得到的阶数估计和子集选取具有相合性,同时非零参数的估计满足Oracle性质. 我们采用大量的数值模拟和实例分析展示本文所提出的各种惩罚方法的表现.


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 孙道德;再论线性模型自变元选择的BIC方法相容性条件[J];高校应用数学学报A辑(中文版);1995年01期
2 戴伯新;;回归变量选择中的数据诊断[J];应用概率统计;1992年04期
3 张大仁,赵立新;遗传算法对QSAR研究中变量选择的应用[J];环境化学;2000年03期
4 严于鲜;;层次分析法在线性回归方程中的应用[J];四川理工学院学报(自然科学版);2006年05期
5 罗英姿,张洁洋;用人工神经网络研究地方经济指标[J];河南广播电视大学学报;2005年02期
6 杨璐,高自友;用神经网络进行变量选择[J];北方交通大学学报;1999年03期
7 王今,韩文秀;财务危机预警中财务比率的选择研究[J];数学的实践与认识;2003年08期
8 韩敏,林云,孙燕楠,齐东海;基于神经网络的建筑行业投标报价研究[J];系统工程学报;2003年04期
9 陈战波;耿志林;杨珂玲;;城市日用水量预测的部分线性自回归模型[J];武汉工业学院学报;2009年02期
10 温忠麟;回归变量的一种选择方法及其应用[J];云南教育学院学报;1994年05期
11 张小亚;申琦;;基因表达式编程在环氧酶抑制剂定量构效关系中的应用[J];计算机与应用化学;2009年10期
12 杨宜平;薛留根;;高维部分线性模型的变量选择和估计(英文)[J];应用概率统计;2011年02期
13 田益祥;GMDH建模中变量选择的方法研究[J];安康师专学报;2001年04期
14 周一星,陈彦光;城市地理研究的几个基本问题[J];经济地理;2004年03期
15 孙道德;;随机回归模型选择的简单方法及其相合性[J];应用数学;2006年01期
16 徐慧;;资本结构的变量选择[J];沿海企业与科技;2006年11期
17 赵培信;;带有缺失数据线性回归模型的变量选择[J];河池学院学报;2009年02期
18 张海;王尧;常象宇;徐宗本;;L_(1/2)正则化[J];中国科学:信息科学;2010年03期
19 王占锋;吴耀华;赵林城;;删失回归模型中一个LASSO型变量选择和估计方法(英文)[J];应用概率统计;2010年01期
20 钟登华,刘豹,张世英,张维;非线性计量经济建模变量选择[J];天津大学学报;1993年03期
中国重要会议论文全文数据库 前10条
1 胡军华;蒋志刚;;环境变量选择与尺度变化对物种适宜栖息地模拟的影响:以普氏原羚为例[A];四川省动物学会第九次会员代表大会暨第十届学术研讨会论文集[C];2011年
2 李洪东;梁逸曾;;高维数据变量选择新方法研究[A];中国化学会第27届学术年会第15分会场摘要集[C];2010年
3 李慷;席裕庚;;带有输出反馈的多变量控制系统中变量的选择[A];1994中国控制与决策学术年会论文集[C];1994年
4 刁宁;张永清;;改进蚁群算法在麻痹性贝毒素的QSAR中变量选择的研究[A];第五届全国环境化学大会摘要集[C];2009年
5 韩敏;林云;;用神经网络的方法进行投标报价中的变量选择[A];第二十届中国控制会议论文集(下)[C];2001年
6 黄蓉;乔园园;;指示向量选择法在QSAR研究中的应用[A];中国化学会第27届学术年会第15分会场摘要集[C];2010年
7 张俊华;方伟武;;调查表数据分析中变量选择和判别分析的一些方法及简单比较[A];面向复杂系统的管理理论与信息系统技术学术会议专辑[C];2000年
8 张永清;费红琳;丁凯;;修正CP_EA-PLS用于多环芳烃光解半衰期QSAR的研究[A];第九届全国计算(机)化学学术会议论文摘要集[C];2007年
9 梁逸曾;李洪东;许青松;曹东升;张志敏;;灰色化学建模与模型集群分析——兼论过拟合、稳健估计、变量选择与模型评价[A];中国化学会第27届学术年会第15分会场摘要集[C];2010年
10 刘咸姝;潘日芳;;满意控制结构综合的专家系统[A];1996年中国智能自动化学术会议论文集(上册)[C];1996年
中国博士学位论文全文数据库 前10条
1 任允文;基于处罚经验似然和跳惩罚最小二乘的变量选择[D];复旦大学;2010年
2 盖玉洁;若干高维模型变量选择和模型重建问题的研究[D];山东大学;2011年
3 李腾飞;似然自适应惩罚变量选择方法研究[D];复旦大学;2012年
4 王树云;基于Bayes方法和图限制下正规化方法的变量选择问题及其在基因组数据中的应用[D];山东大学;2010年
5 刘旭;在完全和缺失数据下基于非光滑估计方程的统计推断与变量选择问题[D];云南大学;2010年
6 陶凤梅;对应分析的数学模型[D];吉林大学;2005年
7 章文军;小波变换和神经网络在化学中的应用[D];中国科学院研究生院(长春应用化学研究所);2001年
8 袁裕泽;半参数模型和近单位根过程的统计推断[D];浙江大学;2011年
9 汪建均;基于广义线性模型的变量选择与稳健参数设计[D];南京理工大学;2011年
10 唐丽娟;定量结构活性相关性研究与高维微阵列数据分析中的化学计量学新算法[D];湖南大学;2009年
中国硕士学位论文全文数据库 前10条
1 李玲玲;高维线性模型的变量选择[D];广西师范大学;2010年
2 刘存银;基于修正经验似然的变量选择方法及其应用研究[D];华东理工大学;2011年
3 闫闯;多元回归模型中变量选择问题研究[D];黑龙江大学;2011年
4 鞠思秋;半参数变系数部分线性模型的变量选择方法[D];华东师范大学;2012年
5 肖金花;函数系数部分线性模型的变量选择[D];湖南师范大学;2012年
6 梁爱;半参数变系数部分线性测量误差模型的变量选择[D];华东师范大学;2011年
7 满敬銮;生存数据模型的变量选择[D];中南大学;2009年
8 周玮;变量选择中的LARS算法及其在国民经济中的应用[D];山东大学;2011年
9 王琴;DNA微阵列数据的变量选择方法研究[D];中南大学;2011年
10 马文浩;各种L_q惩罚在变量选择中的应用及其比较[D];山东大学;2012年
中国重要报纸全文数据库 前10条
1 葛新权 北京信息科技大学经济管理学院;经济统计模型的建模原则与创新[N];中国社会科学报;2010年
2 海通股指期货联合研究中心 李子婧;基于BIRR模型的宏观因子套利策略[N];期货日报;2010年
3 范超;浅谈如何备战统计建模大赛[N];中国信息报;2011年
4 中研博峰咨询有限公司咨询顾问 高荣霞;六步骤锁定细分市场[N];通信产业报;2009年
5 记者 曾德金 张媛;外电报道 他们的方法是非常重要的分析工具[N];经济参考报;2011年
6 本报记者 方烨;中国经济今年将呈前高后稳态势[N];经济参考报;2010年
7 格林期货 刘光素 陈亮;股指期货套期保值策略研究[N];期货日报;2010年
8 本报记者 刘国旺;美国金融危机蔓延 中国出牌备受考验[N];中国财经报;2008年
9 本报记者 马薪婷;光大保德信基金公司董事长林昌:打造综合性资产管理公司[N];证券日报;2009年
10 董藩 甄磊 北京师范大学管理学院房地产研究中心;物业税出台有待斟酌[N];中国联合商报;2010年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978