收藏本站
《江南大学》 2016年
收藏 | 手机打开
二维码
手机客户端打开本文

非平行平面支持向量机及特征提取中若干问题研究

陈素根  
【摘要】:特征提取和分类器设计是模式识别和机器学习领域的重要研究问题。1995年,Vapnik等人基于结构风险极小化理论提出了支持向量机算法(SVM),它因为具有完备的数学理论基础和可以避免维数灾难等特点而成为处理小样本问题的有效工具之一。虽然SVM在解决小样本和高维模式识别问题中展现出了一定的优势,但当训练集样本规模巨大时,就会出现训练速度慢和效率低下等问题,这一定程度上限制了SVM在实际问题中的应用。在2006年和2007年,人工智能国际顶级杂志“IEEE Transactions on Pattern Analysis and Machine Intelligence,TPAMI”上相继发表了“广义特征值支持向量机”和“孪生支持向量机”的两篇文章,这标志着SVM思想开始从平行平面向非平行平面转移,开启了分类决策新思路。近年来,非平行平面支持向量机算法得到了广泛和深入的研究,逐渐成为模式识别领域一个新的研究热点。另一方面,特征提取是模式识别系统至关重要的步骤之一,如何有效地提取特征依然是研究的热点问题之一。本文主要从非平行平面支持向量机和特征提取方法两个方面开展研究,论文的主要工作包含以下几个方面:(1)提出了新型孪生支持向量机算法。孪生支持向量机算法是基于经验风险的思想提出的,模型的求解转化为两个规模较小的二次规划问题,当数据集规模逐渐增大时,求解两个二次规划问题也是比较耗时的。为了解决上述问题,我们提出了一类新型的孪生支持向量机算法,该算法将拟合超平面的思想和正则化技术引入到模型目标函数的构造中,并构建了快速求解二次规划问题的超松弛迭代算法。(2)提出了新型投影孪生支持向量机算法。首先,投影孪生支持向量机算法是借鉴线性判别分析的思想提出的,该算法通过寻找两个最优投影方向来实现二类分类问题,为了获取能够更好地保持数据局部几何特征的投影方向,将局部保持投影思想和正则化技术引入到投影孪生支持向量机算法中,提出了局部保持投影孪生支持向量机算法。同时,该算法通过经验核映射的方法给出了非线性形式,弥补了原始投影孪生支持向量机算法没有给出非线性形式的缺陷。其次,为了克服投影孪生支持向量机算法线性模型与非线性模型需要构造不同优化模型的缺陷,提出了改进的投影孪生支持向量机算法。该算法先构造改进的线性投影孪生支持向量机,再利用核技巧直接推广到非线性形式,继承了传统支持向量机的精髓,并解决了投影孪生支持向量机算法在训练之前需要计算两个逆矩阵的问题。(3)提出了改进的广义特征值支持向量机算法。广义特征值支持向量机算法是最早提出的关于非平行平面决策分类的算法,为了解决该算法在训练过程和决策过程中的不一致性问题,提出了基于特征值分解的中心支持向量机算法。该算法先是针对二类分类问题提出的,模型的求解转化为标准特征值分解问题,降低了算法的计算复杂度;然后基于“一类对余类”策略推广到了多类分类问题,拓广了模型的应用范围。(4)提出了多胞胎最小二乘支持向量机多类分类算法。该算法是对多胞胎支持向量机多类分类算法的一种改进,模型仅仅需要求解线性方程组问题,不仅降低了模型的计算复杂度,而且提升了算法性能。针对K类分类问题,该算法采取“一类对余类”的思想,对每类训练样本基于最小二乘孪生支持向量机算法构造一个分类超平面,在得到所有的K个超平面后,基于最远距离决策分类,这与将最小二乘孪生支持向量机算法基于“一类对余类”策略直接推广到多类分类问题是不同的。(5)提出了基于构造类内辅助训练样本的模式分类方法。首先采取线性插值的方法构造类内辅助训练样本作为新的训练样本;然后基于这些新的训练样本,利用主成分分析或二维主成分分析方法提取特征,并提出了两种策略将主成分分析方法推广到了核主成分分析方法。该方法在一定程度上既考虑了训练样本集的总体散度又考虑了训练样本集的类内散度,可以更好提取带有鉴别信息的特征,不同数据集上的实验结果验证了我们所提方法的有效性。
【学位授予单位】:江南大学
【学位级别】:博士
【学位授予年份】:2016
【分类号】:TP181;TP391.4

【相似文献】
中国期刊全文数据库 前10条
1 吴娟;范玉妹;王丽;;关于改进的支持向量机的研究[J];攀枝花学院学报;2006年05期
2 刘硕明;刘佳;杨海滨;;一种新的多类支持向量机算法[J];计算机应用;2008年S2期
3 尹传环;牟少敏;田盛丰;黄厚宽;;单类支持向量机的研究进展[J];计算机工程与应用;2012年12期
4 王云英;阎满富;;C-支持向量机及其改进[J];唐山师范学院学报;2012年05期
5 李逢焕;;试述不确定支持向量机应用分析及改进思路[J];中国证券期货;2012年12期
6 邵惠鹤;支持向量机理论及其应用[J];自动化博览;2003年S1期
7 曾嵘,蒋新华,刘建成;基于支持向量机的异常值检测的两种方法[J];信息技术;2004年05期
8 张凡,贺苏宁;模糊判决支持向量机在自动语种辨识中的研究[J];计算机工程与应用;2004年21期
9 魏玲,张文修;基于支持向量机集成的分类[J];计算机工程;2004年13期
10 沈翠华,邓乃扬,肖瑞彦;基于支持向量机的个人信用评估[J];计算机工程与应用;2004年23期
中国重要会议论文全文数据库 前10条
1 余乐安;姚潇;;基于中心化支持向量机的信用风险评估模型[A];第六届(2011)中国管理学年会——商务智能分会场论文集[C];2011年
2 刘希玉;徐志敏;段会川;;基于支持向量机的创新分类器[A];山东省计算机学会2005年信息技术与信息化研讨会论文集(一)[C];2005年
3 史晓涛;刘建丽;骆玉荣;;一种抗噪音的支持向量机学习方法[A];全国第19届计算机技术与应用(CACIS)学术会议论文集(下册)[C];2008年
4 何琴淑;刘信恩;肖世富;;基于支持向量机的系统辨识方法研究及应用[A];中国力学大会——2013论文摘要集[C];2013年
5 刘骏;;基于支持向量机方法的衢州降雪模型[A];第五届长三角气象科技论坛论文集[C];2008年
6 王婷;胡秀珍;;基于组合向量的支持向量机方法预测膜蛋白类型[A];第十一次中国生物物理学术大会暨第九届全国会员代表大会摘要集[C];2009年
7 赵晶;高隽;张旭东;谢昭;;支持向量机综述[A];全国第十五届计算机科学与技术应用学术会议论文集[C];2003年
8 周星宇;王思元;;智能数学与支持向量机[A];2005年中国智能自动化会议论文集[C];2005年
9 颜根廷;马广富;朱良宽;宋斌;;一种鲁棒支持向量机算法[A];2006中国控制与决策学术年会论文集[C];2006年
10 侯澍旻;李友荣;刘光临;;基于支持向量机的设备振动信号趋势预测[A];12省区市机械工程学会2006年学术年会湖北省论文集[C];2006年
中国博士学位论文全文数据库 前10条
1 张晓雷;支持向量机若干问题的研究[D];清华大学;2012年
2 王瑜;基于支持向量机和多信息融合的局部放电故障诊断研究[D];华北电力大学;2015年
3 郭虎升;支持向量机的优化建模方法研究[D];山西大学;2014年
4 姚毓凯;支持向量机关键技术及其在人体活动识别中的应用研究[D];兰州大学;2015年
5 周叶;基于新异类检测和支持向量机的水电机组诊断技术研究[D];中国水利水电科学研究院;2015年
6 张华美;穿墙雷达基于支持向量机的成像算法研究[D];南京邮电大学;2015年
7 王喜宾;基于优化支持向量机的个性化推荐研究[D];重庆大学;2015年
8 夏书银;基于分类噪声检测的支持向量机算法研究[D];重庆大学;2015年
9 陈桂军;基于支持向量机的异常检测关键问题研究及应用[D];太原理工大学;2016年
10 舒振宇;基于局部支持向量机的高分辨率遥感图像分类[D];中国地质大学;2015年
中国硕士学位论文全文数据库 前10条
1 佟乐;添加Universum数据双支持向量机[D];河北大学;2015年
2 胡金扣;鲁棒支持向量机研究[D];河北大学;2015年
3 邱志勇;一类支持张量机及其算法研究[D];华南理工大学;2015年
4 董慧康;基于人群搜索—支持向量机的心脏病多生理参数诊断方法研究[D];河北工业大学;2014年
5 李萌;基于支持向量机的高分遥感影像分类技术研究与应用[D];中国地质大学(北京);2015年
6 甘乐;基于支持向量机的高光谱图像降维与分类研究[D];长江大学;2015年
7 苏超;基于支持向量机的太原市土壤重金属污染评价研究[D];山西大学;2014年
8 李胜刚;基于支持向量机的短期风电功率预测[D];湖南工业大学;2015年
9 孙亭亭;基于支持向量机的燃煤机组燃烧优化算法的研究[D];山东大学;2015年
10 王芳;基于支持向量机的沪深300指数回归预测[D];山东大学;2015年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026