收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

支持向量机多类分类算法研究

丁然  
【摘要】:支持向量机(SVM)为一种由Vapnik等人研发出的机器学习方法,是面向小样本进行学习而提出的方法。它在统计学习理论的基础上发展而来,由于继承了其结构风险最小化准则和VC维理论,可以很好的解决训练误差过小反而导致推广能力下降的问题,提高了学习方法对未来输出进行正确预测的能力。正是支持向量机的这些优点,这种学习方法得到了众多学者的高度关注,已成为研究的重点推动着机器学习的发展。支持向量机的发展起源是解决两类分类的问题,可在实际中主要的情况是对多类加以分类,因此,如何将其推向多类处理问题成为当今一项十分重要的研究方向。 本文对支持向量机的支撑理论统计学习理论进行了关键理论的阐述,并在此基础上论述了支持向量机算法,对支持向量机的分类原理进行了论述。在明确支持向量机原理的基础上,总结了关于支持向量机多类分类方法的国内外研究成果,包涵有“一对一”、二叉树、“一对多”、决策有向无环图等多种方法。分析对比了各个方法的优点和不足,并对它们的分类性能做出总结。 通过分析各个多类分类方法,总结出了二叉树方法具有最优的多类分类性能,尤其是对于大规模多类分类问题。本文针对二叉树方法的关键性问题,即树层次结构的划分提出了改进的向量投影方法,利用此方法度量类间可分性的大小,并将易分的类放在树的上层节点中,从而减少误差累积现象对分类精度的影响。二叉树的另一个问题是某些节点处存在不平衡数据分类现象,本文利用改进的SMOTE向上采样方法对不平衡数据集进行采样。本方法不改变样本集分布特性,并且降低了因随机采样而造成的严重样本混叠。最后,将本文的各个算法在UCI数据库上进行了验证,与改进前的方法及“一对多”方法相比,本文的算法提高了分类精度,尤其是对于大规模多类分类的应用中得到了更显著的良好分类效果。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 文明;方凯;汪方斌;丁俊香;;一种基于SVM的多类判别算法[J];工业仪表与自动化装置;2006年06期
2 王晓锋;秦玉平;;基于二叉树的SVM多类分类算法研究[J];湖南工程学院学报(自然科学版);2008年03期
3 焦艳华;张雪萍;林楠;;支持向量机在烤烟烟叶自动分级中的应用[J];微计算机信息;2009年22期
4 徐志洁;;一种处理多类分类问题的强化支持向量机方法[J];计算机工程与应用;2009年26期
5 张永;迟忠先;米滢;;一类直接构造的模糊多类支持向量分类器[J];计算机工程与应用;2008年08期
6 余辉;赵晖;;支持向量机多类分类算法新研究[J];计算机工程与应用;2008年07期
7 李昆仑,黄厚宽,田盛丰,刘振鹏,刘志强;模糊多类支持向量机及其在入侵检测中的应用[J];计算机学报;2005年02期
8 厉剑;杨玮龙;李攀;;基于DSP并行结构的二叉树SVM多分类器[J];舰船电子工程;2007年01期
9 阳庆;秦志远;周丽雅;杨安洪;;近似支持向量机高光谱图像分类方法研究[J];海洋测绘;2009年05期
10 孔波;郑喜英;;支持向量机多类分类方法研究[J];河南教育学院学报(自然科学版);2010年02期
11 吴杉;于亚征;;基于正态层次支持向量机的多类分类研究[J];焦作大学学报;2008年01期
12 肖荣;李金凤;覃俊;;一种改进的一对一多类支持向量机[J];软件导刊;2010年10期
13 赵鹏;;基于支持向量机的文本分类方法研究[J];齐齐哈尔大学学报;2008年01期
14 孟媛媛,刘希玉;一种新的基于二叉树的SVM多类分类方法[J];计算机应用;2005年11期
15 赵有星;李琳;;基于支持向量机的多类分类算法研究[J];科技信息(科学教研);2007年29期
16 官理;祖峰;唐文胜;;快速的支持向量机多类分类研究[J];计算机工程与应用;2008年05期
17 李广莉;崔广顺;;一种改进的模糊多类支持向量机算法[J];计算机测量与控制;2011年04期
18 孙德山;吴今培;肖健华;;一种新的多类分类算法[J];模式识别与人工智能;2004年03期
19 耿姝;秦玉平;;结合SVM与Bayesian为不带类别标记的兼类文本分类[J];科技信息(科学教研);2008年21期
20 刘刚;;基于支持向量机的机械故障多类分类研究[J];机械管理开发;2009年04期
中国重要会议论文全文数据库 前10条
1 林杰华;张斌;李冬森;宋华茂;余志强;王浩;;支持向量机在电力客户信用评级中的应用[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
2 蒋铁军;张怀强;李积源;;多变量系统预测的支持向量机方法研究[A];管理科学与系统科学研究新进展——第7届全国青年管理科学与系统科学学术会议论文集[C];2003年
3 闫晓飞;陈良臣;孙功星;;支持向量机多类分类算法的研究[A];第13届全国计算机、网络在现代科学技术领域的应用学术会议论文集[C];2007年
4 黄淑云;孙兴玉;梁汝萍;邱建丁;;基于小波支持向量机预测蛋白质亚细胞定位研究[A];第十一届全国计算(机)化学学术会议论文摘要集[C];2011年
5 谢湘;匡镜明;;支持向量机在语音识别中的应用研究[A];现代通信理论与信号处理进展——2003年通信理论与信号处理年会论文集[C];2003年
6 涂冬成;薛龙;刘木华;赵进辉;沈杰;吁芳;;基于支持向量机的鹅肉肉色客观评定研究[A];中国农业工程学会电气信息与自动化专业委员会、中国电机工程学会农村电气化分会科技与教育专委会2010年学术年会论文摘要[C];2010年
7 杨凌;刘玉树;;基于支持向量机的坦克识别算法[A];第三届全国数字成像技术及相关材料发展与应用学术研讨会论文摘要集[C];2004年
8 师旭超;巴松涛;;基于支持向量机方法的深基坑变形预测[A];科技、工程与经济社会协调发展——河南省第四届青年学术年会论文集(上册)[C];2004年
9 张军;;支持向量机方法在地下水位干扰排除中的初步应用[A];2007年地震流体学术研讨会论文摘要集[C];2007年
10 许建生;盛立东;;基于改进的支持向量机和BP神经网络的识别算法[A];第八届全国汉字识别学术会议论文集[C];2002年
中国博士学位论文全文数据库 前10条
1 邢永忠;最小二乘支持向量机的若干问题与应用研究[D];南京理工大学;2009年
2 鲁淑霞;基于支持向量机的多光谱数据分类[D];河北大学;2007年
3 王冬丽;基于可扩展的支持向量机分类算法及在信用评级中的应用[D];东华大学;2011年
4 刘叶青;原始空间中支持向量机若干问题的研究[D];西安电子科技大学;2009年
5 常甜甜;支持向量机学习算法若干问题的研究[D];西安电子科技大学;2010年
6 胡运红;支持向量机的若干算法研究[D];山东科技大学;2011年
7 周喜川;非可信环境下的支持向量机研究[D];浙江大学;2010年
8 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
9 杜小芳;基于CPFR的农产品采购模型研究[D];华中科技大学;2005年
10 刘育明;动态过程数据的多变量统计监控方法研究[D];浙江大学;2006年
中国硕士学位论文全文数据库 前10条
1 刘艳伟;支持向量机方法在感潮河段洪峰水位预报中的应用[D];浙江大学;2010年
2 朱健康;基于支持向量机的音乐自动分类[D];天津大学;2010年
3 杨镭;支持向量机算法设计及在高分辨雷达目标识别中的应用[D];国防科学技术大学;2010年
4 张永新;基于支持向量机和遗传算法相结合的模拟电路故障诊断方法研究[D];东北大学;2009年
5 童振;基于支持向量机的电解液成分预测[D];东北大学;2008年
6 刘柳;基于支持向量机和模糊后处理的遥感图像分类研究[D];华中科技大学;2010年
7 聂小芳;模糊粗糙集与支持向量机在煤与瓦斯突出预测中的应用研究[D];辽宁工程技术大学;2009年
8 鄢常亮;基于支持向量机的高炉向凉向热炉况预测研究[D];内蒙古科技大学;2010年
9 韩叙东;基于支持向量机的水电故障分类器的设计与实现[D];东北大学;2008年
10 冯杰;慢时变对象的支持向量机建模与在线校正方法研究[D];东北大学;2009年
中国重要报纸全文数据库 前10条
1 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
2 李水根;计算机详解配伍与药效关系[N];健康报;2005年
3 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
4 YMG记者 李仁 通讯员 曲华明 孙运智;我市九项目进入省“盘子”[N];烟台日报;2010年
5 上海大学理学院教授、副院长 陆文聪;酷爱化学 孜孜以求[N];中国化工报;2006年
6 ;选择合适的数据挖掘算法[N];计算机世界;2007年
7 周颖;王米渠与中医心理学[N];中国中医药报;2006年
8 记者 耿挺;蛋白质功能算出来[N];上海科技报;2007年
9 记者 张云普通讯员 全攀峰 安强强;大庆物探深度域地震资料岩性解释技术获得五大突破[N];中国石油报;2008年
10 本报记者 冯治恩;敢与“雷公”试比高[N];铜川日报;2008年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978