收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

单分类支持向量机的学习方法研究

王洪波  
【摘要】:支持向量机(Support Vector Machine, SVM)是在统计学习理论基础上发展起来的新型机器学习算法。SVM采用结构风险最小化原则,同时最小化经验风险和置信范围,具有拟合精度高、选择参数少、推广能力强和全局最优等优势。SVM为解决小样本、高维数及非线性等问题提供了有效工具,已成为机器学习领域中研究热点之一并得到了广泛应用。 SVM是针对二分类问题提出的,需要两种类别的样本作为训练样本。在实际应用中,有些领域几乎无法获取两类的样本或者代价极高,如敌我识别、攻击样本、卫星故障等,只能获取一个类别的样本,故只能利用这一类样本进行学习,形成数据描述从而实现分类,故出现了单分类算法。 支持向量数据描述(Support Vector Data Description, SVDD)和一类支持向量机(one-class support vector machine, OCSVM)是SVM算法扩展成的单分类算法。在相同的高斯核函数作用下,两种算法完全等价,合称之为单分类支持向量机(1-SVM).“工欲善其事,必先利其器”。要使1-SVM能更好地应用于实际工程问题,首先需要解决1-SVM的训练或学习问题,其过程实际上是求解一个二次规划(OP)问题。本文以提高1-SVM的学习能力为目标,分别对1-SVM的粒子群优化学习、快速学习以及增量学习三个方面进行了研究,并提出了相应的解决方案,主要工作如下: 提出将粒子群优化算法(PSO)的一种扩展算法——线性粒子群优化算法(LPSO)应用到1-SVM的学习上。为了解决粒子飞行到群体最优位置容易陷入停滞状态而过早收敛的问题,采用改变群体最优粒子飞行方式的策略,使群体最优粒子与其他粒子按照不同的方式飞行,改善了LPSO算法的收敛性能,并将此方法应用到LPSO学习1-SVM的过程中。LPSO为解决1-SVM的学习问题提供了新思路。 针对1-SVM的大规模样本集的学习问题,受启发于随机取样算法在凸二次规划问题的成功应用,提出了一种基于随机取样算法的快速学习方法。随机选取大规模样本集的两个样本子,依据随机取样引理和推导出的随机结合定理,对两个子集自身的支持向量(极值点,extreme)和相互间违背KKT条件的样本(外点,violator)进行融合,最后学习出两个子集共同的新决策边界。以此类推,直到全部样本抽取和融合完毕。此方法将大规模样本分批抽取为小样本集并对每一个小样本集进行1-SVM学习,降低了1-SVM学习的内存空间和计算时间,是一种有效的快速学习方法。 为了实现1-SVM的增量学习过程,分析了一类支持向量机(OCSVM)的几何表示特性,提出了一种基于德尔塔函数的增量学习方法。因为OCSVM的几何结构仅仅有一个分类超平面,在其分类超平面的决策函数上添加一个德尔塔函数能够形成新的决策函数,即一个新的分类超平面。根据新增样本求解德尔塔函数就是OCSVM的增量学习过程。受OCSVM二次规划问题的启发,分析得到德尔塔函数的优化问题同样是二次规划问题,并提出利用修正的序贯最小优化(SMO)算法进行求解。 简要介绍了车牌识别系统的组成部分;分析了高清车牌识别的特点,并为车牌定位、字符分割和字符识别等核心技术提出了相应方案;将一对多的1-SVM多分类方法应用到字符识别,并利用提出的增量学习方法提高1-SVM的识别能力。最后,通过C++编程环境实现了识别过程,结果表明成功实现了高清车牌识别系统。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 张问银;金宁德;刘印锋;;基于支持向量机的CD4细胞图像识别方法[J];计算机工程与科学;2009年07期
2 韩永章;;基于支持向量机的旋转机械故障诊断研究[J];科技信息;2010年12期
3 刘磊;;多类分类支持向量机方法研究[J];福建电脑;2010年08期
4 曾文;彭辉;;支持向量机在手写签名的应用研究[J];中国高新技术企业;2009年15期
5 潘浪;单明霞;;支持向量机在资源评价中的应用研究[J];长江大学学报(自然科学版)理工卷;2009年04期
6 盘善荣;傅明;史长琼;;支持向量机在P2P流量识别中的应用[J];计算机工程与科学;2010年02期
7 王东霞;张楠;路晓丽;;基于育种算法的SVM参数优化[J];安徽大学学报(自然科学版);2009年04期
8 乔冠军;那健;俞赛赛;;基于SVM的信息化装备状态趋势预测方法研究[J];自动化技术与应用;2007年11期
9 谢书娟;;SVM理论在图书馆馆藏图像标引方面的应用[J];甘肃科技;2010年01期
10 吕福祥;黄磊;;基于粒子群优化的支持向量机在地表沉降预测中的应用[J];测绘信息与工程;2010年02期
11 周珂;彭宏;胡劲松;;支持向量机在心电图分类诊断中的应用[J];微计算机信息;2006年09期
12 万力;盘善荣;傅明;;基于SVM的P2P流量识别[J];计算技术与自动化;2009年01期
13 邹淑雪;王岩;黄艳新;周春光;;一种基于支持向量机的模糊分类系统研究[J];小型微型计算机系统;2006年04期
14 谢书娟;;图像自动分类在数字化图书馆中的应用[J];甘肃科技;2011年05期
15 曹成涛;徐建闽;;基于PSO-SVM的短期交通流预测方法[J];计算机工程与应用;2007年15期
16 李之波;;多因素支持向量机模型在江苏省中长期电力负荷预测中的应用[J];华北水利水电学院学报;2009年01期
17 李程;叶中华;;基于多小波变换和支持向量机的鲁棒水印算法[J];西安文理学院学报(自然科学版);2009年04期
18 张青;赵黎明;焦尚彬;;基于PSO-SVM的高压绝缘子污秽等级评定[J];高压电器;2008年06期
19 徐海龙;王晓丹;廖勇;张宏达;蒋玉娇;;一种基于PSO的RBF-SVM模型优化新方法[J];控制与决策;2010年03期
20 吴静敏;左洪福;;基于SVM和PSO算法的飞机部件DMC预计方法[J];系统工程与电子技术;2007年01期
中国重要会议论文全文数据库 前10条
1 尹钟;张建华;;基于支持向量机方法的过程操作员功能状态分类[A];中国自动化学会控制理论专业委员会A卷[C];2011年
2 顾锦荣;刘华强;孙预前;;遗传算法优化的支持向量机模型在热带气旋强度预报中的应用[A];第七届长三角气象科技论坛论文集[C];2010年
3 林杰华;张斌;李冬森;宋华茂;余志强;王浩;;支持向量机在电力客户信用评级中的应用[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
4 蒋铁军;张怀强;李积源;;多变量系统预测的支持向量机方法研究[A];管理科学与系统科学研究新进展——第7届全国青年管理科学与系统科学学术会议论文集[C];2003年
5 黄淑云;孙兴玉;梁汝萍;邱建丁;;基于小波支持向量机预测蛋白质亚细胞定位研究[A];第十一届全国计算(机)化学学术会议论文摘要集[C];2011年
6 谢湘;匡镜明;;支持向量机在语音识别中的应用研究[A];现代通信理论与信号处理进展——2003年通信理论与信号处理年会论文集[C];2003年
7 涂冬成;薛龙;刘木华;赵进辉;沈杰;吁芳;;基于支持向量机的鹅肉肉色客观评定研究[A];中国农业工程学会电气信息与自动化专业委员会、中国电机工程学会农村电气化分会科技与教育专委会2010年学术年会论文摘要[C];2010年
8 杨凌;刘玉树;;基于支持向量机的坦克识别算法[A];第三届全国数字成像技术及相关材料发展与应用学术研讨会论文摘要集[C];2004年
9 师旭超;巴松涛;;基于支持向量机方法的深基坑变形预测[A];科技、工程与经济社会协调发展——河南省第四届青年学术年会论文集(上册)[C];2004年
10 胡俊杰;周红;周林军;;支持向量机方法研究物质结构水溶解性关系模型[A];中国化学会第27届学术年会第02分会场摘要集[C];2010年
中国博士学位论文全文数据库 前10条
1 王洪波;单分类支持向量机的学习方法研究[D];浙江大学;2012年
2 王开义;基于支持向量机的农产品生产关键控制点发现研究[D];北京工业大学;2011年
3 邢永忠;最小二乘支持向量机的若干问题与应用研究[D];南京理工大学;2009年
4 曹葵康;支持向量机加速方法及应用研究[D];浙江大学;2010年
5 常甜甜;支持向量机学习算法若干问题的研究[D];西安电子科技大学;2010年
6 胡运红;支持向量机的若干算法研究[D];山东科技大学;2011年
7 刘叶青;原始空间中支持向量机若干问题的研究[D];西安电子科技大学;2009年
8 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
9 王冬丽;基于可扩展的支持向量机分类算法及在信用评级中的应用[D];东华大学;2011年
10 鲁淑霞;基于支持向量机的多光谱数据分类[D];河北大学;2007年
中国硕士学位论文全文数据库 前10条
1 刘艳伟;支持向量机方法在感潮河段洪峰水位预报中的应用[D];浙江大学;2010年
2 杨镭;支持向量机算法设计及在高分辨雷达目标识别中的应用[D];国防科学技术大学;2010年
3 朱健康;基于支持向量机的音乐自动分类[D];天津大学;2010年
4 聂小芳;模糊粗糙集与支持向量机在煤与瓦斯突出预测中的应用研究[D];辽宁工程技术大学;2009年
5 韩叙东;基于支持向量机的水电故障分类器的设计与实现[D];东北大学;2008年
6 冯杰;慢时变对象的支持向量机建模与在线校正方法研究[D];东北大学;2009年
7 武晓娟;基于支持向量机(SVM)的火电电厂工程造价预测研究[D];华北电力大学(河北);2009年
8 蔡磊;SVM及其扩展算法在图像处理中的应用研究[D];西安石油大学;2010年
9 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
10 王奇安;基于广泛内核的CVM算法研究及参数C的选择[D];南京航空航天大学;2009年
中国重要报纸全文数据库 前10条
1 郭涛;利用SVM虚拟化技术实现容灾[N];中国计算机报;2008年
2 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
3 李水根;计算机详解配伍与药效关系[N];健康报;2005年
4 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
5 YMG记者 李仁 通讯员 曲华明 孙运智;我市九项目进入省“盘子”[N];烟台日报;2010年
6 上海大学理学院教授、副院长 陆文聪;酷爱化学 孜孜以求[N];中国化工报;2006年
7 ;选择合适的数据挖掘算法[N];计算机世界;2007年
8 周颖;王米渠与中医心理学[N];中国中医药报;2006年
9 记者 耿挺;蛋白质功能算出来[N];上海科技报;2007年
10 记者 张云普通讯员 全攀峰 安强强;大庆物探深度域地震资料岩性解释技术获得五大突破[N];中国石油报;2008年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978