收藏本站
《中南大学》 2004年
收藏 | 手机打开
二维码
手机客户端打开本文

支持向量机分类与回归方法研究

孙德山  
【摘要】:作为传统统计学的重要补充和发展,针对小样本数据提出的统计学习理论近来受到广泛重视。在统计学习理论基础上发展起来的支持向量机已经展现出优秀的学习性能,并由最初的分类任务成功地扩展到处理回归、概率密度估计和异常值检测等问题。支持向量机一改传统方法的经验风险最小原则,而是根据结构风险最小化原则提出的,这就使其能够达到更好的泛化能力。 支持向量机另外一些优势可以通过与神经网络相比展示出来。支持向量机只有少数可调的参数,而且训练问题可以归结为解一个凸二次规划,从而所得的解是全局最优的,通常也是唯一的。 本文以支持向量机理论为基础,对分类与回归的基本方法及其应用进行了系统的研究。全文共分七章,具体内容如下。 第一章综述了分类与回归的基本方法,包括贝叶斯方法、神经网络方法和支持向量机方法等。 第二章介绍了支持向量机一类分类、二值分类以及回归算法,并在一类分类的基础上,提出一种多值分类算法。所给方法有效地克服了通过构造一系列二值分类而达到多值分类的复杂计算问题,从而有机地将一类分类、二值分类及多值分类融合到一起。进一步提出了多值分类算法的分解形式,为解决大规模数据分类问题提供了一条可行的途径。 第三章首先总结归纳了线性规划下的支持向量机方法。其次,在基于线性规划的支持向量机算法基础上,提出几种新的回归模型,所给模型不但简化了原模型的复杂结构,而且仍能保持良好的预测性能。最后,提出一种基于线性规划的多值分类算法和它的分解形式,该方法不但简单易行,而且仍能保持良好的分类精度。同时,结合基于核的主成分分析(Kernel Principal Component Analysis,KPCA)方法和所给多值分类算法建立了一种人脸识别模型。对ORL人脸图像库的实验结果表明所给方法是可行的、有效的。 第四章对支持向量机回归模型进行了一些扩展研究,具体内容 分四部分:一、提出一种单参数约束下的回归模型,并证明了该模 型与标准回归模型的等价性;二、针对实际回归问题中经常出现异 方差性,提出一种加权支持向量回归算法。仿真实验表明,当数据 中存在异方差性时,所给方法的预侧结果更接近真实值;三、针对 支持向量回归模型中只有点输出而没有概率输出这一缺点,根据局 部预测思想,在回归模型中定义了一种预测信任度的概念,从而为 预测值提供了一个可信度评判。另外,通过对可信度的观测,还能 在一定程度上判别数据中的噪声含量;四、研究了回归与分类之间 的关系,为快速分类算法应用于回归模型中提供了一定的理论依 据。 第五章对异常值检测进行了探讨。利用支持向量回归算法中结 构风险函数较好的平滑性以及KKT条件,提出一种回归中的异常值 检测方法。另外,结合一类分类方法和相空间重构理论,提出一种 时间序列中的异常值检测方法。 第六章讨论了支持向量机与神经网络之间的关系,同时将支持 向量回归的各种版本及RBF网络应用于混沌时间序列预测中,并通 过加入不同水平的噪声来比较分析它们的预测性能。 第七章总结全文并对今后研究工作提出展望。
【学位授予单位】:中南大学
【学位级别】:博士
【学位授予年份】:2004
【分类号】:O211.5

【相似文献】
中国期刊全文数据库 前10条
1 孙向东,韦柳静,黄日波;蛋白质二级结构预测的支持向量机模型研究[J];广西农业生物科学;2004年01期
2 薛建中,闫相国,郑崇勋,王浩军;基于优化核参数支持向量机的意识任务分类[J];生物物理学报;2003年03期
3 潘继斌;回归函数的支持向量机估计法[J];湖北师范学院学报(自然科学版);2003年04期
4 孟科,张恒喜,李寿安,朱家元;基于SVM的可靠性评估方法研究[J];中国制造业信息化;2004年10期
5 周秀平;王文圣;黄伟军;;支持向量机回归模型在径流预测中的应用[J];水电能源科学;2006年04期
6 胡挺;;基于支持向量机的并购目标搜索研究[J];统计与决策;2007年06期
7 邹华胜;宁书年;杨峰;徐遵义;;支持向量机在储层厚度预测和计算中的应用[J];地球物理学进展;2007年05期
8 范千;王新洲;许承权;;大坝变形预测的支持向量机模型[J];测绘工程;2007年06期
9 郭丽娟;孙世宇;段修生;;支持向量机及核函数研究[J];科学技术与工程;2008年02期
10 王炜;郭小明;王淑艳;刘丽琴;;关于核函数选取的方法[J];辽宁师范大学学报(自然科学版);2008年01期
中国重要会议论文全文数据库 前10条
1 林杰华;张斌;李冬森;宋华茂;余志强;王浩;;支持向量机在电力客户信用评级中的应用[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
2 蒋铁军;张怀强;李积源;;多变量系统预测的支持向量机方法研究[A];管理科学与系统科学研究新进展——第7届全国青年管理科学与系统科学学术会议论文集[C];2003年
3 黄淑云;孙兴玉;梁汝萍;邱建丁;;基于小波支持向量机预测蛋白质亚细胞定位研究[A];第十一届全国计算(机)化学学术会议论文摘要集[C];2011年
4 谢湘;匡镜明;;支持向量机在语音识别中的应用研究[A];现代通信理论与信号处理进展——2003年通信理论与信号处理年会论文集[C];2003年
5 涂冬成;薛龙;刘木华;赵进辉;沈杰;吁芳;;基于支持向量机的鹅肉肉色客观评定研究[A];中国农业工程学会电气信息与自动化专业委员会、中国电机工程学会农村电气化分会科技与教育专委会2010年学术年会论文摘要[C];2010年
6 杨凌;刘玉树;;基于支持向量机的坦克识别算法[A];第三届全国数字成像技术及相关材料发展与应用学术研讨会论文摘要集[C];2004年
7 师旭超;巴松涛;;基于支持向量机方法的深基坑变形预测[A];科技、工程与经济社会协调发展——河南省第四届青年学术年会论文集(上册)[C];2004年
8 张军;;支持向量机方法在地下水位干扰排除中的初步应用[A];2007年地震流体学术研讨会论文摘要集[C];2007年
9 许建生;盛立东;;基于改进的支持向量机和BP神经网络的识别算法[A];第八届全国汉字识别学术会议论文集[C];2002年
10 荣海娜;张葛祥;张翠芳;;基于支持向量机的非线性系统辨识方法[A];中国自动化学会、中国仪器仪表学会2004年西南三省一市自动化与仪器仪表学术年会论文集[C];2004年
中国重要报纸全文数据库 前10条
1 翟胜军;对待开源 厂商为何“犹抱琵琶半遮面”[N];中国计算机报;2008年
2 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
3 李水根;计算机详解配伍与药效关系[N];健康报;2005年
4 边际;成发用精益理念规划新区布局[N];中国航空报;2007年
5 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
6 YMG记者 李仁 通讯员 曲华明 孙运智;我市九项目进入省“盘子”[N];烟台日报;2010年
7 羽良;突发事件应对法:应界定对谁“谎报、瞒报”[N];第一财经日报;2006年
8 舒洁;见微知著看Windows 2000的安全[N];中国电脑教育报;2003年
9 北京市科委保密委员会;把握网络信息安全系统的设计原则[N];北京科技报;2000年
10 蒋鸣和;基础教育教学资源标准化与网上共享[N];中国计算机报;2002年
中国博士学位论文全文数据库 前10条
1 孙德山;支持向量机分类与回归方法研究[D];中南大学;2004年
2 杜小芳;基于CPFR的农产品采购模型研究[D];华中科技大学;2005年
3 刘育明;动态过程数据的多变量统计监控方法研究[D];浙江大学;2006年
4 栾锋;支持向量机(SVM)和径向基神经网络(RBFNN)方法在化学、环境化学和药物化学中的应用研究[D];兰州大学;2006年
5 孙薇;市场条件下抽水蓄能电站效益综合评价及运营模式研究[D];华北电力大学(河北);2007年
6 常群;支持向量机的核方法及其模型选择[D];哈尔滨工业大学;2007年
7 朱燕飞;锌钡白回转窑煅烧过程智能建模研究[D];华南理工大学;2005年
8 田英杰;支持向量回归机及其应用研究[D];中国农业大学;2005年
9 燕忠;基于蚁群优化算法的若干问题的研究[D];东南大学;2005年
10 任东;基于支持向量机的植物病害识别研究[D];吉林大学;2007年
中国硕士学位论文全文数据库 前10条
1 刘艳伟;支持向量机方法在感潮河段洪峰水位预报中的应用[D];浙江大学;2010年
2 杨镭;支持向量机算法设计及在高分辨雷达目标识别中的应用[D];国防科学技术大学;2010年
3 童振;基于支持向量机的电解液成分预测[D];东北大学;2008年
4 聂小芳;模糊粗糙集与支持向量机在煤与瓦斯突出预测中的应用研究[D];辽宁工程技术大学;2009年
5 鄢常亮;基于支持向量机的高炉向凉向热炉况预测研究[D];内蒙古科技大学;2010年
6 韩叙东;基于支持向量机的水电故障分类器的设计与实现[D];东北大学;2008年
7 冯杰;慢时变对象的支持向量机建模与在线校正方法研究[D];东北大学;2009年
8 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
9 王奇安;基于广泛内核的CVM算法研究及参数C的选择[D];南京航空航天大学;2009年
10 张永新;基于支持向量机和遗传算法相结合的模拟电路故障诊断方法研究[D];东北大学;2009年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026