收藏本站
《哈尔滨工程大学》 2010年
收藏 | 手机打开
二维码
手机客户端打开本文

半监督支持向量机学习算法研究

赵莹  
【摘要】:支持向量机是Vapnik等在统计学习理论基础上发展起来的针对小样本的新型机器学习方法。该方法由于具有较强的泛化能力、方便对高维数据操作而得到了日益广泛的研究和应用。传统的基于监督学习的分类方法,虽然能够有效地解决各种实际问题,但是需要手工对大量样本进行标记以获取足够的训练样本,代价高,效率低。因此,根据实际需要研究人员又提出了基于半监督学习的分类方法。这类方法能够自动(或半自动)地对有标签样本和无标签样本的混合样本集进行数据分类,在提高效率的同时扩大了算法的适用范围。然而,半监督支持向量机学习是机器学习领域中相对比较新的理论,它在很多方面尚不成熟、不完善,需要进一步地研究和改进。本文主要从半监督支持向量机两分类学习算法、基准学习算法以及多分类学习算法三方面对半监督支持向量机学习算法展开研究,充分发挥半监督支持向量机的优势和潜力。 首先,针对半监督支持向量机学习算法训练时间代价大的问题,提出最小二乘支持向量机半监督学习算法。在迭代过程中以最小二乘支持向量机为学习模型,充分利用和发挥最小二乘支持向量机学习算法训练速度快、效率高等优点提高半监督支持向量机算法的训练速度。然后,采用区域标注法对无标签样本进行迭代的标注,提高无标签样本的标注效率,在迭代过程中将有标签样本集和半标记样本集一同进行训练。仿真实验结果表明,最小二乘支持向量机半监督学习算法可以有效的降低训练时间。 其次,针对由局部最优化引起的半监督支持向量机学习算法在同一数据集上参数敏感、最优解差异大,以及基于全局最优化技术的基准学习算法时间复杂度高的问题,提出一种改进的分枝定界半监督支持向量机学习算法。该算法重新对结点的下界进行定义,将伪对偶函数的值作为结点的下界,避免了计算量较大的0-1二次规划,降低了各结点计算下界的时间复杂度;同时,依据无标签样本的样本可信度确定分枝结点,避免了多次支持向量机训练,提高了算法的训练速度。仿真实验分析表明该算法同其它半监督支持向量机学习算法相比具有精度高、参数不敏感的优点,并且具有较快的训练速度。本文利用多主机协同训练实现算法的并行化,提出一种分枝定界半监督支持向量机并行学习算法,仿真实验表明该算法具有较好的加速比,在训练速度上有明显的提升。 最后,针对半监督学习中有标签样本数据较少,多分类问题实施困难,多分类精度低的问题,提出一种半监督支持向量数据域描述多分类学习算法。算法通过定义非目标样本的隶属度得到非目标样本的接受标签与拒绝标签,在此基础上采用半监督支持向量数据域描述学习算法构造多个超球体,将一个k分类问题转化为k个单分类问题,实现多分类。仿真实验结果表明该算法可以在有标签样本数较少的情况下,有效的提高多分类学习算法的分类精度。
【学位授予单位】:哈尔滨工程大学
【学位级别】:博士
【学位授予年份】:2010
【分类号】:TP181

知网文化
【引证文献】
中国期刊全文数据库 前1条
1 杜方键;杨宏晖;;两种半监督多类水下目标识别算法的比较[J];声学技术;2014年01期
中国硕士学位论文全文数据库 前7条
1 罗显科;视频监控图像异常检测及质量评价[D];重庆大学;2012年
2 王敏;人脸美丽分类算法研究[D];西安电子科技大学;2012年
3 申磊;基于机器学习的异常流量检测系统研究[D];北京邮电大学;2013年
4 李爽;基于实例学习的套损情况智能识别[D];东北石油大学;2013年
5 李恩宁;矩阵低秩近似在支持向量机中的研究[D];西安电子科技大学;2013年
6 许钰;基于半监督SVM主动学习的文本分类算法研究[D];兰州交通大学;2013年
7 刘孝良;基于半监督学习的随机森林算法研究与应用[D];中国海洋大学;2013年
【参考文献】
中国期刊全文数据库 前10条
1 李昆仑,黄厚宽,田盛丰;模糊多类SVM模型[J];电子学报;2004年05期
2 徐启华,师军;应用SVM的发动机故障诊断若干问题研究[J];航空学报;2005年06期
3 张建中;杨国辉;林文;蔡骏;;Fresnel层析成像并行算法研究[J];计算机研究与发展;2007年10期
4 付岩,王耀威,王伟强,高文;SVM用于基于内容的自然图像分类和检索[J];计算机学报;2003年10期
5 张鸿;吴飞;庄越挺;陈建勋;;一种基于内容相关性的跨媒体检索方法[J];计算机学报;2008年05期
6 曹玖新;毛波;罗军舟;刘波;;基于嵌套EMD的钓鱼网页检测算法[J];计算机学报;2009年05期
7 孙晋文,肖建国;基于SVM的中文文本分类反馈学习技术的研究[J];控制与决策;2004年08期
8 李华北;胡卫明;罗冠;;基于语义匹配的交互式视频检索框架[J];自动化学报;2008年10期
9 冯爱民;陈斌;;基于局部密度的单类分类器LP改进算法[J];南京航空航天大学学报;2006年06期
10 冯爱民;陈松灿;;基于核的单类分类器研究[J];南京师范大学学报(工程技术版);2008年04期
中国博士学位论文全文数据库 前1条
1 王磊;支持向量机学习算法的若干问题研究[D];电子科技大学;2007年
【共引文献】
中国期刊全文数据库 前10条
1 区卫民;谭泗桥;袁哲明;柏连阳;熊洁仪;;SVR-KNN法用于除草剂QSAR研究[J];安徽农业科学;2008年35期
2 许高程;张文君;王卫红;;支持向量机技术在遥感影像滑坡体提取中的应用[J];安徽农业科学;2009年06期
3 韩勇鹏;;SVM方法及其在乳制品分类问题上的应用[J];安徽农业科学;2009年08期
4 郭立萍;唐家奎;米素娟;张成雯;赵理君;;基于支持向量机遥感图像融合分类方法研究进展[J];安徽农业科学;2010年17期
5 管翠萍;;药物靶标G蛋白偶联受体的识别预测[J];安徽农业科学;2010年24期
6 张永生;魏新军;侯振雨;彭娟;;支持向量回归分光光度法同时测定苋菜红和果绿[J];安徽农业科学;2010年33期
7 刘婷婷;;基于支持向量机的水稻纹枯病识别研究[J];安徽农业科学;2011年28期
8 张永生;;支持向量机在害虫预测预报中的应用[J];现代农业科技;2009年14期
9 王尔丹;人群运动与密度估计技术研究[J];安全;2005年03期
10 冯学军;;最小二乘支持向量机的研究与应用[J];安庆师范学院学报(自然科学版);2009年01期
中国重要会议论文全文数据库 前10条
1 ;An effective procedure exploiting unlabeled data to build monitoring system[A];中国科学院地质与地球物理研究所第11届(2011年度)学术年会论文集(下)[C];2012年
2 宋海鹰;桂卫华;阳春华;;基于核偏最小二乘的简约最小二乘支持向量机及其应用研究[A];第二十六届中国控制会议论文集[C];2007年
3 宋海鹰;桂卫华;阳春华;;基于最小二乘支持向量机的Hammerstein-Wiener模型辨识[A];第二十六届中国控制会议论文集[C];2007年
4 ;Inverse System Control of Nonlinear Systems Using LS-SVM[A];第二十六届中国控制会议论文集[C];2007年
5 ;A Novel Kernel PCA Support Vector Machine Algorithm with Feature Transition Function[A];第二十六届中国控制会议论文集[C];2007年
6 ;A Novel Proximal Support Vector Machine and Its Application in Radar Target Recognition[A];第二十六届中国控制会议论文集[C];2007年
7 ;A CDMA Signal Receiver Based on LS-SVM[A];第二十六届中国控制会议论文集[C];2007年
8 周绮凤;林成德;罗林开;彭洪;;一种基于黎曼度量的训练样本类不平衡SVM分类方法研究[A];第二十六届中国控制会议论文集[C];2007年
9 吕蓬;柳亦兵;马强;魏于凡;;支持向量机在齿轮智能故障诊断中的应用研究[A];第二十六届中国控制会议论文集[C];2007年
10 ;LS-SVM Based Stable Generalized Predictive Control[A];第二十七届中国控制会议论文集[C];2008年
中国博士学位论文全文数据库 前10条
1 母丽华;煤矿安全预警系统的方法研究[D];哈尔滨工程大学;2010年
2 徐森;文本聚类集成关键技术研究[D];哈尔滨工程大学;2010年
3 殷志伟;基于统计学习理论的分类方法研究[D];哈尔滨工程大学;2009年
4 杨宁;计算机辅助卷烟配方设计关键技术研究[D];中国海洋大学;2010年
5 任广波;基于半监督学习的遥感影像分类技术研究[D];中国海洋大学;2010年
6 李书艳;单点氨基酸多态性与疾病相关关系的预测及其机制研究[D];兰州大学;2010年
7 柏坚;非线性数学地质模型研究及在滇东南金矿成矿预测中的应用[D];中国地质大学(北京);2010年
8 张明;电能质量扰动相关问题研究[D];华中科技大学;2010年
9 姚志明;基于步态触觉信息的身份识别研究[D];中国科学技术大学;2010年
10 陈志国;基于群体智能的机器视觉的关键技术研究[D];江南大学;2010年
中国硕士学位论文全文数据库 前10条
1 曾传华;基于颜色和纹理特征的竹条分级方法研究[D];华中农业大学;2010年
2 朱杰;一种基于聚类的支持向量机反问题求解算法[D];河北大学;2007年
3 李金华;基于SVM的多类文本分类研究[D];山东科技大学;2010年
4 田文娟;基于支持向量机的人民币序列号识别方法的研究[D];山东科技大学;2010年
5 孟培培;基于3S的土地督察信息系统研究[D];山东科技大学;2010年
6 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
7 刘维会;不平衡数据集上支持向量机算法研究[D];山东科技大学;2010年
8 李海清;支持向量机在金融市场预测中的应用[D];辽宁师范大学;2010年
9 岳海亮;信息论在粗糙集连续属性离散化中的应用[D];辽宁师范大学;2010年
10 江达秀;基于HMAX模型的人脸表情识别研究[D];浙江理工大学;2010年
【同被引文献】
中国期刊全文数据库 前10条
1 佟雨兵;张其善;常青;祁云平;;基于NN与SVM的图像质量评价模型[J];北京航空航天大学学报;2006年09期
2 杨守义,罗伟雄;一种基于高阶统计量的图像质量客观评价方法[J];北京理工大学学报;2001年05期
3 秦巍,陈秀峰;成像测井井壁图像裂缝自动识别[J];测井技术;2001年01期
4 鲁珂,赵继东,叶娅兰,曾家智;一种用于图像检索的新型半监督学习算法[J];电子科技大学学报;2005年05期
5 卜涛涛;卢超;;图像分割算法研究[J];电脑知识与技术;2010年08期
6 周伟达,张莉,焦李成;支撑矢量机推广能力分析[J];电子学报;2001年05期
7 李昆仑,黄厚宽,田盛丰;模糊多类SVM模型[J];电子学报;2004年05期
8 张凤斌,杨永田,江子扬;遗传算法在基于网络异常的入侵检测中的应用[J];电子学报;2004年05期
9 杨春玲;陈冠豪;谢胜利;;基于梯度信息的图像质量评判方法的研究[J];电子学报;2007年07期
10 朱孝开;杨德贵;;基于推广能力测度的多类SVDD模式识别方法[J];电子学报;2009年03期
中国博士学位论文全文数据库 前10条
1 王保云;图像质量客观评价技术研究[D];中国科学技术大学;2010年
2 黄静华;支持向量机算法研究及在气象数据挖掘中的应用[D];中国矿业大学(北京);2011年
3 毛慧芸;人脸美丽吸引力的特征分析与机器学习[D];华南理工大学;2011年
4 李河;基于构件复用的测井解释系统及成像测井图像处理与自动识别技术研究[D];吉林大学;2005年
5 李治江;彩色影像色调重建的理论与实践[D];武汉大学;2005年
6 李忠伟;支持向量机学习算法研究[D];哈尔滨工程大学;2006年
7 朱永宣;基于模式识别的入侵检测关键技术研究[D];北京邮电大学;2006年
8 刘叶青;原始空间中支持向量机若干问题的研究[D];西安电子科技大学;2009年
9 段华;支持向量机的增量学习算法研究[D];上海交通大学;2008年
10 朱孝开;基于核方法的图像目标识别技术研究[D];国防科学技术大学;2009年
中国硕士学位论文全文数据库 前10条
1 赵萍;人脸美化技术的研究与实现[D];大连理工大学;2010年
2 赵艳丽;图像特征提取与匹配算法研究[D];电子科技大学;2011年
3 陈燕文;基于SIFT与小波变换的图像配准融合方法研究[D];武汉理工大学;2011年
4 庄自超;面向视频监控的视频质量检测系统的设计与开发[D];华中师范大学;2011年
5 刘海生;石油套管的损坏机理及应力分析[D];燕山大学;2011年
6 雷雁;基于多Agent的网络入侵检测系统的研究[D];南京信息工程大学;2005年
7 李峰;数字图像质量检测技术的研究与实现[D];江苏大学;2005年
8 王彤;基于形态学的彩色图像分割算法研究[D];吉林大学;2006年
9 李晓伟;基于水平集方法的图像分割[D];西安理工大学;2007年
10 饶蓝;基于支持向量机的网络攻击检测研究[D];南京理工大学;2007年
【二级引证文献】
中国硕士学位论文全文数据库 前1条
1 郭浩;基于FPGA的运动目标检测系统的设计与实现[D];武汉理工大学;2013年
【二级参考文献】
中国期刊全文数据库 前10条
1 董春曦,杨绍全,饶鲜,汤建龙;支持向量机推广能力估计方法比较[J];电路与系统学报;2004年04期
2 刘劲松;刘福田;刘俊;郝天珧;;天然地震走时反演矩阵顺序三角化算法的优化和并行化[J];地球物理学进展;2005年04期
3 张建中,陈世军,徐初伟;动态网络最短路径射线追踪[J];地球物理学报;2004年05期
4 焦李成,张莉,周伟达;支撑矢量预选取的中心距离比值法[J];电子学报;2001年03期
5 王国胜,钟义信;支持向量机的若干新进展[J];电子学报;2001年10期
6 徐启华,师军;基于支持向量机的航空发动机故障诊断[J];航空动力学报;2005年02期
7 陈恬,孙健国,杨蔚华,秦海波,卓刚;自组织神经网络航空发动机气路故障诊断[J];航空学报;2003年01期
8 吴翌,庄越挺,潘云鹤;视频相似度的衡量[J];计算机辅助设计与图形学学报;2001年03期
9 李青,焦李成,周伟达;基于向量投影的支撑向量预选取[J];计算机学报;2005年02期
10 李昆仑,黄厚宽,田盛丰,刘振鹏,刘志强;模糊多类支持向量机及其在入侵检测中的应用[J];计算机学报;2005年02期
【相似文献】
中国期刊全文数据库 前10条
1 张健沛;赵莹;杨静;;最小二乘支持向量机的半监督学习算法[J];哈尔滨工程大学学报;2008年10期
2 鲁珂,赵继东,叶娅兰,曾家智;一种用于图像检索的新型半监督学习算法[J];电子科技大学学报;2005年05期
3 薛贞霞;刘三阳;刘万里;;基于SVDD的渐进直推式支持向量机学习算法[J];模式识别与人工智能;2008年06期
4 刘叶青;刘三阳;谷明涛;;一种多项式光滑的半监督支持向量机分类算法[J];计算机科学;2009年07期
5 杨绪兵;潘志松;陈松灿;;半监督型广义特征值最接近支持向量机[J];模式识别与人工智能;2009年03期
6 郑声恩;叶少珍;;一种基于内容图像检索的半监督和主动学习算法[J];计算机工程与应用;2006年S1期
7 吕宏伟;;一种改进的半监督增量SVM学习算法[J];科学技术与工程;2010年01期
8 王安娜;李云路;赵锋云;史成龙;;一种新的半监督直推式支持向量机分类算法[J];仪器仪表学报;2011年07期
9 张钢;印鉴;程良伦;钟钦灵;;半监督多示例核[J];计算机科学;2011年09期
10 王栋;孙济洲;李福超;;基于半监督支持向量机的并行远同源检测方法[J];计算机应用研究;2009年12期
中国重要会议论文全文数据库 前10条
1 林杰华;张斌;李冬森;宋华茂;余志强;王浩;;支持向量机在电力客户信用评级中的应用[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
2 蒋铁军;张怀强;李积源;;多变量系统预测的支持向量机方法研究[A];管理科学与系统科学研究新进展——第7届全国青年管理科学与系统科学学术会议论文集[C];2003年
3 黄淑云;孙兴玉;梁汝萍;邱建丁;;基于小波支持向量机预测蛋白质亚细胞定位研究[A];第十一届全国计算(机)化学学术会议论文摘要集[C];2011年
4 谢湘;匡镜明;;支持向量机在语音识别中的应用研究[A];现代通信理论与信号处理进展——2003年通信理论与信号处理年会论文集[C];2003年
5 涂冬成;薛龙;刘木华;赵进辉;沈杰;吁芳;;基于支持向量机的鹅肉肉色客观评定研究[A];中国农业工程学会电气信息与自动化专业委员会、中国电机工程学会农村电气化分会科技与教育专委会2010年学术年会论文摘要[C];2010年
6 杨凌;刘玉树;;基于支持向量机的坦克识别算法[A];第三届全国数字成像技术及相关材料发展与应用学术研讨会论文摘要集[C];2004年
7 师旭超;巴松涛;;基于支持向量机方法的深基坑变形预测[A];科技、工程与经济社会协调发展——河南省第四届青年学术年会论文集(上册)[C];2004年
8 张军;;支持向量机方法在地下水位干扰排除中的初步应用[A];2007年地震流体学术研讨会论文摘要集[C];2007年
9 许建生;盛立东;;基于改进的支持向量机和BP神经网络的识别算法[A];第八届全国汉字识别学术会议论文集[C];2002年
10 荣海娜;张葛祥;张翠芳;;基于支持向量机的非线性系统辨识方法[A];中国自动化学会、中国仪器仪表学会2004年西南三省一市自动化与仪器仪表学术年会论文集[C];2004年
中国重要报纸全文数据库 前10条
1 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
2 李水根;计算机详解配伍与药效关系[N];健康报;2005年
3 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
4 YMG记者 李仁 通讯员 曲华明 孙运智;我市九项目进入省“盘子”[N];烟台日报;2010年
5 上海大学理学院教授、副院长 陆文聪;酷爱化学 孜孜以求[N];中国化工报;2006年
6 ;选择合适的数据挖掘算法[N];计算机世界;2007年
7 周颖;王米渠与中医心理学[N];中国中医药报;2006年
8 记者 耿挺;蛋白质功能算出来[N];上海科技报;2007年
9 记者 张云普通讯员 全攀峰 安强强;大庆物探深度域地震资料岩性解释技术获得五大突破[N];中国石油报;2008年
10 本报记者 冯治恩;敢与“雷公”试比高[N];铜川日报;2008年
中国博士学位论文全文数据库 前10条
1 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
2 刘叶青;原始空间中支持向量机若干问题的研究[D];西安电子科技大学;2009年
3 常甜甜;支持向量机学习算法若干问题的研究[D];西安电子科技大学;2010年
4 程丽丽;支持向量机集成学习算法研究[D];哈尔滨工程大学;2009年
5 胡运红;支持向量机的若干算法研究[D];山东科技大学;2011年
6 周喜川;非可信环境下的支持向量机研究[D];浙江大学;2010年
7 薛贞霞;支持向量机及半监督学习中若干问题的研究[D];西安电子科技大学;2009年
8 王开义;基于支持向量机的农产品生产关键控制点发现研究[D];北京工业大学;2011年
9 王超;三类不确定支持向量机及其应用[D];河北大学;2013年
10 杜小芳;基于CPFR的农产品采购模型研究[D];华中科技大学;2005年
中国硕士学位论文全文数据库 前10条
1 韩叙东;基于支持向量机的水电故障分类器的设计与实现[D];东北大学;2008年
2 刘艳伟;支持向量机方法在感潮河段洪峰水位预报中的应用[D];浙江大学;2010年
3 杨镭;支持向量机算法设计及在高分辨雷达目标识别中的应用[D];国防科学技术大学;2010年
4 童振;基于支持向量机的电解液成分预测[D];东北大学;2008年
5 聂小芳;模糊粗糙集与支持向量机在煤与瓦斯突出预测中的应用研究[D];辽宁工程技术大学;2009年
6 鄢常亮;基于支持向量机的高炉向凉向热炉况预测研究[D];内蒙古科技大学;2010年
7 冯杰;慢时变对象的支持向量机建模与在线校正方法研究[D];东北大学;2009年
8 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
9 王奇安;基于广泛内核的CVM算法研究及参数C的选择[D];南京航空航天大学;2009年
10 张永新;基于支持向量机和遗传算法相结合的模拟电路故障诊断方法研究[D];东北大学;2009年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026