收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

线性回归模型中多重共线性问题的应对策略及其几点改进

刘红卫  
【摘要】:在解决许多实际问题中,需要使用解释变量对响应变量建立预测方程,但当涉及的解释变量较多时,解释变量间往往存在相关性;或者当取得的样本点数量小于解释变量个数时,都可以引起多重共线性问题,这时如果仍采用普通的最小二乘法来建模,那么这种多重共线性就会严重危害参数的估计、扩大模型误差、破坏模型的稳健性。 本文阐述了解决多重共线性问题的三种方法:岭回归方法、主成分回归方法、偏最小二乘回归方法,并对这三种方法进行了综述,且对它们的性质进行了归纳和总结,特别总结和归纳了基于方差最大性原则下的主成分分析的计算方法和步骤以及多因变量的偏最小二乘回归方法的计算方法和步骤。 本文讨论了岭回归、主成分回归和偏最小二乘回归的存在的一些问题,在岭回归中采用了一种基于均方误差无偏估计达到最小原则下选择岭参数K的新方法;在主成分回归中我们采用主成分的加权残差平方和来替代仅用残差平方和来筛选特征值的方法,明显改善了系统的误差,使得模型的精确度有了较大的提高;在偏最小二乘估计中我们从计算的约束条件着手,分析了解释矩阵中有较多信息且与响应变量具有较高相关性这种理想状态下的矛盾,采用了用正交投影的办法,把解释矩阵中与响应变量无关的成分扣除掉,经过这样处理的解释矩阵便不存在含有大量与响应变量无关的信息问题,从而扩宽了偏最小二乘回归方法的使用范围。同时还发现在偏最小二乘法当中利用交叉有效性原则选取主成分个数时,交叉有效原则并不是总是有效的,通过例题进行了说明。并且采用了一种基于”残差平方和的减小率”与Q_k~2准则相结合的方法来确定主成分的个数的新方法,这种准则是否合理,还需要我们在实践中进行检验。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 熊焰,孙亚东;我国大豆期货价格影响因素分析[J];中南民族大学学报(自然科学版);2004年02期
2 刘文卿;;基于泛岭估计对岭估计过度压缩的改进方法[J];数理统计与管理;2011年04期
3 陈伟;;评估指标变量之间多重共线性问题的探讨[J];中国高等教育评估;2003年02期
4 赵海清;;非主成份与广义岭型估计[J];纯粹数学与应用数学;2008年03期
5 张峭;用主成分回归法处理多重共线性[J];山西财经大学学报;1992年06期
6 葛培运;;主成分回归分析在经济学中的应用[J];科技信息;2009年27期
7 陈宗胜;对《回归模型中的多重共线性问题》一文的答复——兼议经济学的学术争鸣[J];生产力研究;1998年05期
8 陶靖轩;多元分析中的变量选择问题研究[J];中国计量学院学报;2001年01期
9 李兵;陈国华;段复建;;岭型主成分估计的优良性质[J];桂林电子科技大学学报;2009年02期
10 叶天勇;多重共线性的检验及校正方法[J];统计与决策;1987年Z1期
11 龚乐春,郑宁国;多元线性模型系数的主成分估计及其筛选[J];中国计量学院学报;2000年01期
12 郭其阳;;解决多重共线性的一种方法——余差估计法[J];数量经济技术经济研究;1990年04期
13 田俊忠;多重共线性的因子判别法[J];固原师专学报;1996年03期
14 黄恒君;项泾渭;刘晓梅;;主成分回归分析的直接实现——基于SPSS二次开发[J];甘肃科学学报;2007年02期
15 张言彩;韩玉启;;多重共线性与最大熵罗汶估计模型[J];统计与决策;2007年20期
16 陈玲燕;;多重共线性下的线性回归方法综述[J];市场研究;2008年04期
17 王玉梅;;多重共线性的消除:不相关法[J];统计教育;2006年07期
18 林乐义;印凡成;;基于聚类分析和因子分析消除多重共线性的方法[J];统计与决策;2008年08期
19 杨虎,王松桂,张忠占;追加数据对条件指数的影响<英>[J];应用概率统计;1995年03期
20 鲁茂;贺昌政;;对多重共线性问题的探讨[J];统计与决策;2007年08期
中国重要会议论文全文数据库 前10条
1 游华;;偏最小二乘回归分析在研究进出口总额问题中的应用[A];2003中国现场统计研究会第十一届学术年会论文集(上)[C];2003年
2 赵莽;林齐宁;;移动用户满意度指标重要性测量[A];通信发展战略与业务管理创新学术研讨会论文集[C];2005年
3 吉培荣;邹红波;刘鹄;;无偏GM(1,1)模型与指数模型特性的比较[A];2006年灰色系统理论及其应用学术会议论文集[C];2006年
4 张蜜蜜;刘艳秋;;基于新阈值函数的小波去噪方法研究[A];中国通信学会第六届学术年会论文集(下)[C];2009年
5 朱宁;李建军;李兵;;一种有偏岭-压缩组合估计的新形式[A];第八届中国青年运筹信息管理学者大会论文集[C];2006年
6 赵明清;张靖;;基于粗糙集理论的多重共线性检验和处理[A];中国企业运筹学[C];2006年
7 叶西;;一种抑制天线阵旁瓣的自适应滤波技术[A];2009年全国无线电应用与管理学术会议论文集[C];2009年
8 宫轶松;韩松辉;姚绍文;归庆明;;r-k估计中偏参数的选取[A];中国现场统计研究会第12届学术年会论文集[C];2005年
9 刘琴;汤银才;;分层随机抽样中R的分别比估计量的可用性及其均方误差的估计量[A];中国现场统计研究会第12届学术年会论文集[C];2005年
10 邹杰宇;卢亚雄;黄子强;王俐;蔡宁;;基于改进GS算法的衍射光学光束整形元件的设计[A];2006年全国光电技术学术交流会会议文集(B 光学系统设计与制造技术专题)[C];2006年
中国博士学位论文全文数据库 前10条
1 马铁丰;线性混合模型与多元分布中的统计推断问题[D];北京工业大学;2008年
2 张超;数据挖掘中分类分析的策略研究及其生物医学应用[D];南方医科大学;2008年
3 罗伟林;基于支持向量机方法的船舶操纵运动建模研究[D];上海交通大学;2009年
4 井雅;正交频分复用无线通信系统中信道估计技术研究[D];东南大学;2006年
5 武中臣;复杂凝聚态体系中近红外光谱信号的信息提取及定量表示[D];南开大学;2006年
6 刘红;供应链牛鞭效应研究[D];上海海事大学;2006年
7 刘双平;基于谐波检测与估计的线性调制分析方法研究[D];解放军信息工程大学;2007年
8 杨杨;土地资源对中国经济的“增长阻尼”研究[D];浙江大学;2008年
9 赵俊义;MIMO-OFDM无线通信系统信道估计算法研究[D];哈尔滨工业大学;2009年
10 常新锋;线性模型参数有偏估计的若干研究[D];重庆大学;2011年
中国硕士学位论文全文数据库 前10条
1 刘红卫;线性回归模型中多重共线性问题的应对策略及其几点改进[D];西南交通大学;2006年
2 于晓牧;logistic回归多重共线性诊断方法的研究[D];大连医科大学;2010年
3 于健;基于PLS回归方法在经济系统中的应用研究[D];哈尔滨工程大学;2008年
4 张凤莲;多元线性回归中多重共线性问题的解决办法探讨[D];华南理工大学;2010年
5 毕伯竹;高维多重共线性数据的变量选择问题[D];山东大学;2011年
6 赵芬;回归模型中的几个重要改进[D];燕山大学;2012年
7 周菲;Logistic回归多重共线性的诊断与改进及其在医学中的应用[D];兰州大学;2011年
8 范景诚;复杂数据下复共线性关系的诊断研究及影响分析[D];山东大学;2008年
9 范哲;树半序约束下多指数总体均值的估计[D];大连理工大学;2007年
10 孔朝莉;农业投入产出统计模型建模方法的研究[D];辽宁师范大学;2004年
中国重要报纸全文数据库 前6条
1 特约撰稿 赵惟;解析运营收入测算[N];人民邮电;2003年
2 广发证券股份有限公司 何沛俐 章早立;立体空间下的全新财务危机远期预警模型[N];证券时报;2003年
3 Juan Carlos Artigas 广发期货研究中心 编译 陈贝尔;货币供应对金价和未来通胀的影响[N];期货日报;2010年
4 省社科院 孙自铎 张谋贵;城市科学发展指标体系及评价之探索[N];安徽日报;2010年
5 记者 孟斯硕;“CPI低估”者自我批评:推断缺乏依据[N];第一财经日报;2010年
6 郭省钰 刘露 山西财经大学;后危机时代下我国财政政策有效性实证分析[N];山西经济日报;2011年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978