收藏本站
《哈尔滨工程大学》 2010年
收藏 | 手机打开
二维码
手机客户端打开本文

半监督支持向量机学习算法研究

赵莹  
【摘要】:支持向量机是Vapnik等在统计学习理论基础上发展起来的针对小样本的新型机器学习方法。该方法由于具有较强的泛化能力、方便对高维数据操作而得到了日益广泛的研究和应用。传统的基于监督学习的分类方法,虽然能够有效地解决各种实际问题,但是需要手工对大量样本进行标记以获取足够的训练样本,代价高,效率低。因此,根据实际需要研究人员又提出了基于半监督学习的分类方法。这类方法能够自动(或半自动)地对有标签样本和无标签样本的混合样本集进行数据分类,在提高效率的同时扩大了算法的适用范围。然而,半监督支持向量机学习是机器学习领域中相对比较新的理论,它在很多方面尚不成熟、不完善,需要进一步地研究和改进。本文主要从半监督支持向量机两分类学习算法、基准学习算法以及多分类学习算法三方面对半监督支持向量机学习算法展开研究,充分发挥半监督支持向量机的优势和潜力。 首先,针对半监督支持向量机学习算法训练时间代价大的问题,提出最小二乘支持向量机半监督学习算法。在迭代过程中以最小二乘支持向量机为学习模型,充分利用和发挥最小二乘支持向量机学习算法训练速度快、效率高等优点提高半监督支持向量机算法的训练速度。然后,采用区域标注法对无标签样本进行迭代的标注,提高无标签样本的标注效率,在迭代过程中将有标签样本集和半标记样本集一同进行训练。仿真实验结果表明,最小二乘支持向量机半监督学习算法可以有效的降低训练时间。 其次,针对由局部最优化引起的半监督支持向量机学习算法在同一数据集上参数敏感、最优解差异大,以及基于全局最优化技术的基准学习算法时间复杂度高的问题,提出一种改进的分枝定界半监督支持向量机学习算法。该算法重新对结点的下界进行定义,将伪对偶函数的值作为结点的下界,避免了计算量较大的0-1二次规划,降低了各结点计算下界的时间复杂度;同时,依据无标签样本的样本可信度确定分枝结点,避免了多次支持向量机训练,提高了算法的训练速度。仿真实验分析表明该算法同其它半监督支持向量机学习算法相比具有精度高、参数不敏感的优点,并且具有较快的训练速度。本文利用多主机协同训练实现算法的并行化,提出一种分枝定界半监督支持向量机并行学习算法,仿真实验表明该算法具有较好的加速比,在训练速度上有明显的提升。 最后,针对半监督学习中有标签样本数据较少,多分类问题实施困难,多分类精度低的问题,提出一种半监督支持向量数据域描述多分类学习算法。算法通过定义非目标样本的隶属度得到非目标样本的接受标签与拒绝标签,在此基础上采用半监督支持向量数据域描述学习算法构造多个超球体,将一个k分类问题转化为k个单分类问题,实现多分类。仿真实验结果表明该算法可以在有标签样本数较少的情况下,有效的提高多分类学习算法的分类精度。
【学位授予单位】:哈尔滨工程大学
【学位级别】:博士
【学位授予年份】:2010
【分类号】:TP181

【引证文献】
中国硕士学位论文全文数据库 前2条
1 罗显科;视频监控图像异常检测及质量评价[D];重庆大学;2012年
2 王敏;人脸美丽分类算法研究[D];西安电子科技大学;2012年
【参考文献】
中国期刊全文数据库 前7条
1 陈毅松,汪国平,董士海;基于支持向量机的渐进直推式分类学习算法[J];软件学报;2003年03期
2 王玲;薄列峰;焦李成;;密度敏感的半监督谱聚类[J];软件学报;2007年10期
3 张周锁,李凌均,何正嘉;基于支持向量机的机械故障诊断方法研究[J];西安交通大学学报;2002年12期
4 梁锦锦;刘三阳;吴德;;一种约减支持向量域描述算法RSVDD[J];西安电子科技大学学报;2008年05期
5 丰建荣,刘志河,刘正和;混合整数规划问题遗传算法的研究及仿真实现[J];系统仿真学报;2004年04期
6 廖东平;魏玺章;黎湘;庄钊文;;一种改进的渐进直推式支持向量机分类学习算法[J];信号处理;2008年02期
7 徐磊;赵光宙;顾弘;;基于作用集的一类支持向量机递推式训练算法[J];浙江大学学报(工学版);2009年01期
【共引文献】
中国期刊全文数据库 前10条
1 夏晓;潘和平;;基于支持向量机的人民币兑美元汇率实证研究[J];管理学家(学术版);2010年08期
2 熊思;鲁静;;基于TW SVMs的入侵检测方法[J];湖北第二师范学院学报;2009年02期
3 吴娟;范玉妹;王丽;;关于改进的支持向量机的研究[J];攀枝花学院学报;2006年05期
4 孙长银;穆朝絮;李训铭;;一类非线性逆系统的加权最小二乘支持向量机辨识方法[J];中国科学(F辑:信息科学);2009年04期
5 罗向阳;刘粉林;杨春芳;王道顺;;基于最优小波包分解的图像隐写通用检测[J];中国科学:信息科学;2010年02期
6 蔡冬松;靖继鹏;;基于最小二乘支持向量机的数据挖掘应用研究[J];情报科学;2005年12期
7 陈涛;谢阳群;;基于支持向量机的外贸企业客户分类方法应用研究[J];情报科学;2006年07期
8 肖钠;;我国信息生态理论研究综述[J];情报科学;2011年07期
9 刘怀亮;张治国;赵捧未;;中文文本分类反馈学习研究[J];情报理论与实践;2009年06期
10 程娟;平西建;童莉;杨洋;;基于信息度量与SVM的文本图像自动提取技术[J];情报杂志;2006年04期
中国重要会议论文全文数据库 前10条
1 ;An effective procedure exploiting unlabeled data to build monitoring system[A];中国科学院地质与地球物理研究所第11届(2011年度)学术年会论文集(下)[C];2012年
2 宋海鹰;桂卫华;阳春华;;基于核偏最小二乘的简约最小二乘支持向量机及其应用研究[A];第二十六届中国控制会议论文集[C];2007年
3 宋海鹰;桂卫华;阳春华;;基于最小二乘支持向量机的Hammerstein-Wiener模型辨识[A];第二十六届中国控制会议论文集[C];2007年
4 ;Inverse System Control of Nonlinear Systems Using LS-SVM[A];第二十六届中国控制会议论文集[C];2007年
5 ;A Novel Kernel PCA Support Vector Machine Algorithm with Feature Transition Function[A];第二十六届中国控制会议论文集[C];2007年
6 ;A Novel Proximal Support Vector Machine and Its Application in Radar Target Recognition[A];第二十六届中国控制会议论文集[C];2007年
7 ;A CDMA Signal Receiver Based on LS-SVM[A];第二十六届中国控制会议论文集[C];2007年
8 周绮凤;林成德;罗林开;彭洪;;一种基于黎曼度量的训练样本类不平衡SVM分类方法研究[A];第二十六届中国控制会议论文集[C];2007年
9 吕蓬;柳亦兵;马强;魏于凡;;支持向量机在齿轮智能故障诊断中的应用研究[A];第二十六届中国控制会议论文集[C];2007年
10 ;LS-SVM Based Stable Generalized Predictive Control[A];第二十七届中国控制会议论文集[C];2008年
中国硕士学位论文全文数据库 前10条
1 曾传华;基于颜色和纹理特征的竹条分级方法研究[D];华中农业大学;2010年
2 朱杰;一种基于聚类的支持向量机反问题求解算法[D];河北大学;2007年
3 李金华;基于SVM的多类文本分类研究[D];山东科技大学;2010年
4 田文娟;基于支持向量机的人民币序列号识别方法的研究[D];山东科技大学;2010年
5 孟培培;基于3S的土地督察信息系统研究[D];山东科技大学;2010年
6 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
7 刘维会;不平衡数据集上支持向量机算法研究[D];山东科技大学;2010年
8 李海清;支持向量机在金融市场预测中的应用[D];辽宁师范大学;2010年
9 岳海亮;信息论在粗糙集连续属性离散化中的应用[D];辽宁师范大学;2010年
10 江达秀;基于HMAX模型的人脸表情识别研究[D];浙江理工大学;2010年
【同被引文献】
中国期刊全文数据库 前7条
1 张羽;朱丹;王玉良;;一种改进的快速SIFT特征匹配算法[J];微计算机信息;2008年33期
2 叶勤;李翔;陈鹰;;基于特性统计方法的航空遥感图像质量评定研究[J];遥感信息;2006年05期
3 王楠楠,李桂苓;符合人眼视觉特性的视频质量评价模型[J];中国图象图形学报;2001年06期
4 郑建铧,郝重阳,雷方元,樊养余;利用色彩直方图特征进行偏色图象的自动检测和校正[J];中国图象图形学报;2003年09期
5 丁绪星,朱日宏,李建欣;一种基于人眼视觉特性的图像质量评价[J];中国图象图形学报;2004年02期
6 王涛;高新波;张都应;;一种基于内容的图像质量评价测度[J];中国图象图形学报;2007年06期
7 魏政刚,袁杰辉,蔡元龙;图象质量评价方法的历史、现状和未来[J];中国图象图形学报;1998年05期
中国硕士学位论文全文数据库 前9条
1 赵萍;人脸美化技术的研究与实现[D];大连理工大学;2010年
2 赵艳丽;图像特征提取与匹配算法研究[D];电子科技大学;2011年
3 陈燕文;基于SIFT与小波变换的图像配准融合方法研究[D];武汉理工大学;2011年
4 庄自超;面向视频监控的视频质量检测系统的设计与开发[D];华中师范大学;2011年
5 李峰;数字图像质量检测技术的研究与实现[D];江苏大学;2005年
6 王小燕;基于加权增量的支持向量机分类算法研究[D];浙江大学;2008年
7 汪凡;基于结构信息的图像质量评价方法研究[D];华南理工大学;2010年
8 张志毅;SIFT与BIM特征提取方法的研究与应用[D];华南理工大学;2010年
9 孙凯;计算人脸医学美学研究[D];哈尔滨工业大学;2010年
【二级参考文献】
中国期刊全文数据库 前8条
1 马云潜,张学工;支持向量机函数拟合在分形插值中的应用[J];清华大学学报(自然科学版);2000年03期
2 陈毅松,汪国平,董士海;基于支持向量机的渐进直推式分类学习算法[J];软件学报;2003年03期
3 张翔;肖小玲;徐光祐;;基于样本之间紧密度的模糊支持向量机方法[J];软件学报;2006年05期
4 汪西莉,焦李成;一种基于马氏距离的支持向量快速提取算法[J];西安电子科技大学学报;2004年04期
5 冀振元,孟宪德;轮式车与履带车目标的识别[J];现代雷达;1999年06期
6 郑春红,郑贵文,焦李成;基于FSVM的雷达多目标识别[J];系统工程与电子技术;2003年11期
7 吴峰崎;孟光;;基于支持向量机的转子振动信号故障分类研究[J];振动工程学报;2006年02期
8 屈梁生,张海军;机械诊断中的几个基本问题[J];中国机械工程;2000年Z1期
【相似文献】
中国期刊全文数据库 前10条
1 张健沛;赵莹;杨静;;最小二乘支持向量机的半监督学习算法[J];哈尔滨工程大学学报;2008年10期
2 鲁珂,赵继东,叶娅兰,曾家智;一种用于图像检索的新型半监督学习算法[J];电子科技大学学报;2005年05期
3 薛贞霞;刘三阳;刘万里;;基于SVDD的渐进直推式支持向量机学习算法[J];模式识别与人工智能;2008年06期
4 刘叶青;刘三阳;谷明涛;;一种多项式光滑的半监督支持向量机分类算法[J];计算机科学;2009年07期
5 杨绪兵;潘志松;陈松灿;;半监督型广义特征值最接近支持向量机[J];模式识别与人工智能;2009年03期
6 郑声恩;叶少珍;;一种基于内容图像检索的半监督和主动学习算法[J];计算机工程与应用;2006年S1期
7 吕宏伟;;一种改进的半监督增量SVM学习算法[J];科学技术与工程;2010年01期
8 王安娜;李云路;赵锋云;史成龙;;一种新的半监督直推式支持向量机分类算法[J];仪器仪表学报;2011年07期
9 张钢;印鉴;程良伦;钟钦灵;;半监督多示例核[J];计算机科学;2011年09期
10 王栋;孙济洲;李福超;;基于半监督支持向量机的并行远同源检测方法[J];计算机应用研究;2009年12期
中国重要会议论文全文数据库 前10条
1 林杰华;张斌;李冬森;宋华茂;余志强;王浩;;支持向量机在电力客户信用评级中的应用[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
2 蒋铁军;张怀强;李积源;;多变量系统预测的支持向量机方法研究[A];管理科学与系统科学研究新进展——第7届全国青年管理科学与系统科学学术会议论文集[C];2003年
3 黄淑云;孙兴玉;梁汝萍;邱建丁;;基于小波支持向量机预测蛋白质亚细胞定位研究[A];第十一届全国计算(机)化学学术会议论文摘要集[C];2011年
4 谢湘;匡镜明;;支持向量机在语音识别中的应用研究[A];现代通信理论与信号处理进展——2003年通信理论与信号处理年会论文集[C];2003年
5 涂冬成;薛龙;刘木华;赵进辉;沈杰;吁芳;;基于支持向量机的鹅肉肉色客观评定研究[A];中国农业工程学会电气信息与自动化专业委员会、中国电机工程学会农村电气化分会科技与教育专委会2010年学术年会论文摘要[C];2010年
6 杨凌;刘玉树;;基于支持向量机的坦克识别算法[A];第三届全国数字成像技术及相关材料发展与应用学术研讨会论文摘要集[C];2004年
7 师旭超;巴松涛;;基于支持向量机方法的深基坑变形预测[A];科技、工程与经济社会协调发展——河南省第四届青年学术年会论文集(上册)[C];2004年
8 张军;;支持向量机方法在地下水位干扰排除中的初步应用[A];2007年地震流体学术研讨会论文摘要集[C];2007年
9 许建生;盛立东;;基于改进的支持向量机和BP神经网络的识别算法[A];第八届全国汉字识别学术会议论文集[C];2002年
10 荣海娜;张葛祥;张翠芳;;基于支持向量机的非线性系统辨识方法[A];中国自动化学会、中国仪器仪表学会2004年西南三省一市自动化与仪器仪表学术年会论文集[C];2004年
中国重要报纸全文数据库 前10条
1 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
2 李水根;计算机详解配伍与药效关系[N];健康报;2005年
3 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
4 YMG记者 李仁 通讯员 曲华明 孙运智;我市九项目进入省“盘子”[N];烟台日报;2010年
5 上海大学理学院教授、副院长 陆文聪;酷爱化学 孜孜以求[N];中国化工报;2006年
6 ;选择合适的数据挖掘算法[N];计算机世界;2007年
7 周颖;王米渠与中医心理学[N];中国中医药报;2006年
8 记者 耿挺;蛋白质功能算出来[N];上海科技报;2007年
9 记者 张云普通讯员 全攀峰 安强强;大庆物探深度域地震资料岩性解释技术获得五大突破[N];中国石油报;2008年
10 本报记者 冯治恩;敢与“雷公”试比高[N];铜川日报;2008年
中国博士学位论文全文数据库 前10条
1 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
2 刘叶青;原始空间中支持向量机若干问题的研究[D];西安电子科技大学;2009年
3 常甜甜;支持向量机学习算法若干问题的研究[D];西安电子科技大学;2010年
4 程丽丽;支持向量机集成学习算法研究[D];哈尔滨工程大学;2009年
5 胡运红;支持向量机的若干算法研究[D];山东科技大学;2011年
6 周喜川;非可信环境下的支持向量机研究[D];浙江大学;2010年
7 薛贞霞;支持向量机及半监督学习中若干问题的研究[D];西安电子科技大学;2009年
8 王开义;基于支持向量机的农产品生产关键控制点发现研究[D];北京工业大学;2011年
9 杜小芳;基于CPFR的农产品采购模型研究[D];华中科技大学;2005年
10 刘育明;动态过程数据的多变量统计监控方法研究[D];浙江大学;2006年
中国硕士学位论文全文数据库 前10条
1 韩叙东;基于支持向量机的水电故障分类器的设计与实现[D];东北大学;2008年
2 刘艳伟;支持向量机方法在感潮河段洪峰水位预报中的应用[D];浙江大学;2010年
3 杨镭;支持向量机算法设计及在高分辨雷达目标识别中的应用[D];国防科学技术大学;2010年
4 童振;基于支持向量机的电解液成分预测[D];东北大学;2008年
5 聂小芳;模糊粗糙集与支持向量机在煤与瓦斯突出预测中的应用研究[D];辽宁工程技术大学;2009年
6 鄢常亮;基于支持向量机的高炉向凉向热炉况预测研究[D];内蒙古科技大学;2010年
7 冯杰;慢时变对象的支持向量机建模与在线校正方法研究[D];东北大学;2009年
8 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
9 王奇安;基于广泛内核的CVM算法研究及参数C的选择[D];南京航空航天大学;2009年
10 张永新;基于支持向量机和遗传算法相结合的模拟电路故障诊断方法研究[D];东北大学;2009年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026