收藏本站
《西安电子科技大学》 2009年
收藏 | 手机打开
二维码
手机客户端打开本文

支持向量机和支持向量域描述的若干问题研究

梁锦锦  
【摘要】: 支持向量机(Support Vector Machine, SVM)是基于统计学习理论提出的一种新型有监督模式识别方法.采用结构风险最小化原则,SVM在最大化分类间隔和最小化分类误差之间取得折衷,以控制分类器的泛化能力.SVM较好地解决了小样本、高维数及非线性等实际问题,具有拟合精度高、选择参数少、推广能力强和全局最优等特点.SVM成为机器学习领域新的研究热点,并被广泛应用到模式识别、函数拟合和密度估计等领域.本文针对大规模样本集的SVM训练问题、SVM的集成学习问题、变形SVM问题、支持向量域描述(Support Vector Domain Description,SVDD)的快速训练问题等进行研究,主要研究工作如下: 1.研究了大规模样本集的SVM训练算法.SVM在训练大规模样本集时面临着占用内存多、计算代价大的问题,这也成为实际应用的瓶颈问题.基于并行学习中“分而治之”的理念和“支持向量与全体训练样本等价”的结论,提出一种同心超球面支持向量机(Hypersphere Support Vector Machine, HSVM).HSVM以相同层数的两组同心超球面组对正负两类样本进行分割,对分层间隔内的样本采用SVM训练,合并所有分层间隔中支持向量的并集以参与最终的SVM训练.HSVM既保持了SVM的分类精度又降低了SVM的训练时间. 2.研究了SVM的集成学习算法.运用集成学习的理念构造了一种空间支持向量域分类器(Space Support Vector Domain Classifier,SSVDC).选取支持向量域分类器(Support Vector Domain Classifier,SVDC)和K近邻(K Nearest Neighbor,KNN)作为子分类器,SSVDC以选择集成的策略对两者的预测结果进行集成.SSVDC首先采用SVDD求得两类样本的最小包围超球,并以超球的描述边界将训练样本划分为互不相交的几个区域;其次计算待测样本到两个最小包围超球球心的距离,根据其与两个最小包围超球半径的大小关系判断待测样本所处区域;最后选择相应的子分类器得到最终的分类结果.由于子分类器均针对样本的某个子集进行训练,SSVDC具有较短的训练时间.由于根据样本的分布选取相应的子分类器,SSVDC具有较高的分类精度且其分类精度受核参数变化的影响不大.数值实验验证了SSVDC的有效性以及对比SVM和SVDC的优越性. 3.研究了变形SVM算法.通过改变原始优化问题的函数项、变量或系数得到了一系列变形SVM算法,这在一定程度拓宽了SVM的应用范围.针对变形SVM中的二次损失函数SVM,构造一种光滑对角加权支持向量机(Smooth Diagonal Weighted Support Vector Machine,SDWSVM).在线性空间中,直接运用光滑技术得到光滑模型,也即采取Sigmoid函数的积分函数来逼近正号函数形式的松弛.在非线性空间中,先分别利用Lagrange乘子向量来代替分类超平面的权值向量和原-对偶规划隐含的分类超平面的权值向量表达式对原规划的目标函数进行转换,再利用光滑技术构造光滑模型.对线性空间和非线性空间中得到的光滑模型,均采用Newton法求解,具有较高的效率. 4.提出了一种约简支持向量域描述算法(Reduced Support Vector Domain Description,RSVDD).SVDD的训练即为求解一个所含未知数个数等于全体训练样本个数的凸二次规划.为了提高SVDD的训练速度,RSVDD对每个样本定义一种自中心距离比值,定义此值为该样本到中心的距离与所有样本的平均中心距离的比值,并以此值作为判断该样本成为支持向量的可能性度量.RSVDD选取自中心距离比值较大的部分样本参与SVDD训练,从而减少了待解QP的规模.该算法引入参数少,易于实现且保持了目标类精度. 5.提出了一种信赖支持向量域描述算法(Confidence Support Vector Domain Description,CSVDD).由于支持向量往往分布在SVDD的描述边界附近,基于这个几何特性,定义了一种信赖抽样方法以提取部分样本参与SVDD训练.依次以每个样本为中心,做一个以某定长为半径的超球.统计落入该超球中的训练样本数目,并将该值作为判断中心样本属于支持向量的信赖度量(Confidence Measure).根据信赖度量的值将训练样本升序排列,CSVDD提取排在前面的部分样本作为边界向量集参与最终的SVDD训练,缩短了SVDD的训练时间并保持了SVDD的目标类精度.
【学位授予单位】:西安电子科技大学
【学位级别】:博士
【学位授予年份】:2009
【分类号】:TP181

手机知网App
【引证文献】
中国期刊全文数据库 前1条
1 吴德;刘三阳;;信息安全风险评估模型SVRAMIS[J];西安电子科技大学学报;2013年01期
中国博士学位论文全文数据库 前2条
1 郑光辉;江苏部分地区土壤属性高光谱定量估算研究[D];南京大学;2011年
2 韩永华;农田图像的统计迭代分割方法研究[D];浙江大学;2011年
中国硕士学位论文全文数据库 前5条
1 成鹏;应用少量标记样本的支持向量机分类研究[D];陕西师范大学;2011年
2 林超;基于超球体多类支持向量机的高光谱遥感影像分类[D];中南大学;2011年
3 杨明;基于信息融合的海洋溢油识别系统研究[D];上海交通大学;2012年
4 张敏;半定规划支持向量机的研究[D];广西大学;2011年
5 王金荣;明胶浓度软测量建模研究[D];兰州理工大学;2012年
【参考文献】
中国期刊全文数据库 前10条
1 焦李成,张莉,周伟达;支撑矢量预选取的中心距离比值法[J];电子学报;2001年03期
2 王国胜,钟义信;支持向量机的若干新进展[J];电子学报;2001年10期
3 李蓉 ,叶世伟 ,史忠植;SVM-KNN分类器——一种提高SVM分类精度的新方法[J];电子学报;2002年05期
4 熊金志;胡金莲;袁华强;胡天明;李广明;;一类光滑支持向量机新函数的研究[J];电子学报;2007年02期
5 朱永生,王成栋,张优云;二次损失函数支持向量机性能的研究[J];计算机学报;2003年08期
6 陆从德,张太镒,胡金燕;基于乘性规则的支持向量域分类器[J];计算机学报;2004年05期
7 袁玉波,严杰,徐成贤;多项式光滑的支撑向量机[J];计算机学报;2005年01期
8 李青,焦李成,周伟达;基于向量投影的支撑向量预选取[J];计算机学报;2005年02期
9 许建华,张学工,李衍达;支持向量机的新发展[J];控制与决策;2004年05期
10 孔锐,张冰;一种快速支持向量机增量学习算法[J];控制与决策;2005年10期
中国博士学位论文全文数据库 前1条
1 王磊;支持向量机学习算法的若干问题研究[D];电子科技大学;2007年
【共引文献】
中国期刊全文数据库 前10条
1 冯清海;袁万城;樊启武;;基于FE—ANN—MC的结构可靠度计算方法研究[J];四川建筑科学研究;2008年04期
2 陈征;;一类系统的二次李雅普诺夫函数存在性的判断[J];安徽电子信息职业技术学院学报;2006年04期
3 蔡坤琪;;基于相关鉴别分析和随机森林的人脸识别方法[J];安徽电子信息职业技术学院学报;2012年01期
4 孙小军;焦建民;何俊红;;解优化问题的遗传加速信赖域搜索算法[J];安徽大学学报(自然科学版);2008年03期
5 蒋利华;许峰;马昌凤;;非线性互补问题的无导数方法[J];安徽大学学报(自然科学版);2010年02期
6 张家昕;段复建;;一种结合NCP函数的SQP滤子新算法[J];安徽大学学报(自然科学版);2010年05期
7 杨绪兵,韩自存;ε不敏感的核Adaline算法及其在图像去噪中的应用[J];安徽工程科技学院学报(自然科学版);2003年04期
8 陶秀凤,唐诗忠,周鸣争;基于支持向量机的软测量模型及应用[J];安徽工程科技学院学报(自然科学版);2004年02期
9 李峻;孙世群;;基于BP网络模型的青弋江水质预测研究[J];安徽工程科技学院学报(自然科学版);2008年02期
10 张艳;张海军;;基于DSP的多通道超声波连续测厚系统的研究[J];安徽工程科技学院学报(自然科学版);2008年03期
中国重要会议论文全文数据库 前10条
1 叶红云;倪志伟;陈恩红;;一种混合型集成学习演化决策树算法[A];2005年“数字安徽”博士科技论坛论文集[C];2005年
2 ;A review on restoration of seismic wavefields based on regularization and compressive sensing[A];中国科学院地质与地球物理研究所第11届(2011年度)学术年会论文集(下)[C];2012年
3 ;An effective procedure exploiting unlabeled data to build monitoring system[A];中国科学院地质与地球物理研究所第11届(2011年度)学术年会论文集(下)[C];2012年
4 王国庆;李国福;李旭渊;;基于PSO-K均值聚类的核事故应急监测点位快速确定技术研究[A];全国危险物质与安全应急技术研讨会论文集(上)[C];2011年
5 刘钰;韩峰;董楠;陆希成;雷鸣;;爆炸容器安全概率的统计分析方法[A];全国危险物质与安全应急技术研讨会论文集(下)[C];2011年
6 宋海鹰;桂卫华;阳春华;;基于核偏最小二乘的简约最小二乘支持向量机及其应用研究[A];第二十六届中国控制会议论文集[C];2007年
7 ;A Novel Kernel PCA Support Vector Machine Algorithm with Feature Transition Function[A];第二十六届中国控制会议论文集[C];2007年
8 ;A Novel Proximal Support Vector Machine and Its Application in Radar Target Recognition[A];第二十六届中国控制会议论文集[C];2007年
9 周绮凤;林成德;罗林开;彭洪;;一种基于黎曼度量的训练样本类不平衡SVM分类方法研究[A];第二十六届中国控制会议论文集[C];2007年
10 顾小军;杨世锡;钱苏翔;;基于支持向量机的旋转机械多类故障识别研究[A];第二十六届中国控制会议论文集[C];2007年
中国博士学位论文全文数据库 前10条
1 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
2 于化龙;基于DNA微阵列数据的癌症分类技术研究[D];哈尔滨工程大学;2010年
3 谭佳琳;粒子群优化算法研究及其在海底地形辅助导航中的应用[D];哈尔滨工程大学;2010年
4 梁洪;基于内容的医学图像检索及语义建模关键技术研究[D];哈尔滨工程大学;2010年
5 殷志伟;基于统计学习理论的分类方法研究[D];哈尔滨工程大学;2009年
6 孔凡芝;引线键合视觉检测关键技术研究[D];哈尔滨工程大学;2009年
7 陈得宇;基于MAS的智能电压控制系统研究[D];哈尔滨工程大学;2010年
8 李晚龙;六自由度Stewart平台分散智能控制研究[D];哈尔滨工程大学;2010年
9 杨宁;计算机辅助卷烟配方设计关键技术研究[D];中国海洋大学;2010年
10 刘冬雁;川西高原甘孜黄土记录的早更新世晚期以来的古气候变化[D];中国海洋大学;2009年
中国硕士学位论文全文数据库 前10条
1 朱杰;一种基于聚类的支持向量机反问题求解算法[D];河北大学;2007年
2 张小亮;非线性规划的信赖域算法[D];河南理工大学;2010年
3 李金华;基于SVM的多类文本分类研究[D];山东科技大学;2010年
4 马冉冉;集成学习算法研究[D];山东科技大学;2010年
5 田文娟;基于支持向量机的人民币序列号识别方法的研究[D];山东科技大学;2010年
6 吕万里;中文文本分类技术研究[D];山东科技大学;2010年
7 徐芳芳;优化问题的PVD算法研究[D];山东科技大学;2010年
8 滕景忠;智能瓦斯传感器的研制[D];山东科技大学;2010年
9 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
10 韩晓峰;高斯混合模型及在探测网络社区结构中的应用[D];山东科技大学;2010年
【同被引文献】
中国期刊全文数据库 前10条
1 王惠文,刘强;偏最小二乘回归模型内涵分析方法研究[J];北京航空航天大学学报;2000年04期
2 战强;吴佳;;未知环境下移动机器人单目视觉导航算法[J];北京航空航天大学学报;2008年06期
3 胡振涛;金勇;李小偎;;量测不确定下多传感器交互式多模型自适应滤波算法[J];传感器与微系统;2011年08期
4 张良培,李德仁,童庆禧,郑兰芬;鄱阳湖地区土壤、植被光谱混合模型的研究[J];测绘学报;1997年01期
5 尹国成,张德干,朱红艳,赵海;基于熵模型的自适应信息融合方法[J];东北大学学报;2002年03期
6 胡正平;高文涛;万春艳;;基于样本不确定性和代表性相结合的可控主动学习算法研究[J];燕山大学学报;2009年04期
7 胡丽芳;周宪英;关欣;;一种新的处理冲突证据的方法[J];弹箭与制导学报;2010年04期
8 吴强;贾传荧;李冰梅;;基于Gauss核函数的快速构造最小超球算法[J];大连海事大学学报;2007年03期
9 刘爽;史国友;;基于加权超球支持向量机算法的超文本分类研究[J];大连海事大学学报;2009年01期
10 张文娟,王绍强,常华,于贵瑞;遥感在土壤碳储量估算中的应用[J];地理科学进展;2005年03期
中国重要报纸全文数据库 前1条
1 中国科学院院士、国际欧亚科学院院士 童庆禧;[N];中国测绘报;2008年
中国博士学位论文全文数据库 前10条
1 刘伟东;高光谱遥感土壤信息提取与挖掘研究[D];中国科学院研究生院(遥感应用研究所);2002年
2 夏建涛;基于机器学习的高维多光谱数据分类[D];西北工业大学;2002年
3 张淑娟;基于GPS和GIS的精细农业田间信息采集和处理方法的研究[D];浙江大学;2003年
4 范昕炜;支持向量机算法的研究及其应用[D];浙江大学;2003年
5 刘红卫;半定规划及其应用[D];西安电子科技大学;2002年
6 周俊;农用轮式移动机器人视觉导航系统的研究[D];南京农业大学;2003年
7 孙宗海;支持向量机及其在控制中的应用研究[D];浙江大学;2003年
8 刘志刚;支撑向量机在光谱遥感影像分类中的若干问题研究[D];武汉大学;2004年
9 侯卫锋;催化重整流程模拟与优化技术及其应用研究[D];浙江大学;2006年
10 张方明;田间路径识别算法和基于立体视觉的车辆自动导航方法研究[D];浙江大学;2006年
中国硕士学位论文全文数据库 前10条
1 高利敏;明胶浓度的软测量建模及参数优化[D];兰州理工大学;2011年
2 赵晶;基于信息融合技术的航空发动机智能监测研究[D];南京航空航天大学;2010年
3 易星;半监督学习若干问题的研究[D];清华大学;2004年
4 徐永明;基于实验室光谱的土壤营养元素反演研究[D];中国科学院研究生院(遥感应用研究所);2005年
5 焦阳;海上溢油遥感图像智能边缘检测算法的研究[D];大连海事大学;2005年
6 项霞;基于最小二乘支持向量机的多光谱遥感影像分类[D];武汉大学;2005年
7 张勇;基于SVM遥感图像专题信息提取研究[D];中南大学;2005年
8 刘治国;支持向量机算法在TM多光谱图像分类中的应用与实现[D];中国地质大学(北京);2006年
9 许磊;支持向量机和模糊理论在遥感图像分类中的应用[D];江南大学;2006年
10 张森;基于支持向量机的遥感分类对比研究[D];昆明理工大学;2007年
【二级引证文献】
中国硕士学位论文全文数据库 前1条
1 李静;高光谱遥感影像降维及分类方法研究[D];中南大学;2012年
【二级参考文献】
中国期刊全文数据库 前10条
1 李凯,黄厚宽;支持向量机增量学习算法研究[J];北方交通大学学报;2003年05期
2 董春曦,杨绍全,饶鲜,汤建龙;支持向量机推广能力估计方法比较[J];电路与系统学报;2004年04期
3 焦李成,张莉,周伟达;支撑矢量预选取的中心距离比值法[J];电子学报;2001年03期
4 王国胜,钟义信;支持向量机的若干新进展[J];电子学报;2001年10期
5 李蓉 ,叶世伟 ,史忠植;SVM-KNN分类器——一种提高SVM分类精度的新方法[J];电子学报;2002年05期
6 王守觉;仿生模式识别(拓扑模式识别)——一种模式识别新模型的理论与应用[J];电子学报;2002年10期
7 阎平凡;对多层前向神经网络研究的进一步看法[J];电子学报;1999年05期
8 陆从德,张太镒,胡金燕;基于乘性规则的支持向量域分类器[J];计算机学报;2004年05期
9 袁玉波,严杰,徐成贤;多项式光滑的支撑向量机[J];计算机学报;2005年01期
10 李青,焦李成,周伟达;基于向量投影的支撑向量预选取[J];计算机学报;2005年02期
【相似文献】
中国期刊全文数据库 前10条
1 张问银;金宁德;刘印锋;;基于支持向量机的CD4细胞图像识别方法[J];计算机工程与科学;2009年07期
2 韩永章;;基于支持向量机的旋转机械故障诊断研究[J];科技信息;2010年12期
3 刘磊;;多类分类支持向量机方法研究[J];福建电脑;2010年08期
4 曾文;彭辉;;支持向量机在手写签名的应用研究[J];中国高新技术企业;2009年15期
5 王东霞;张楠;路晓丽;;基于育种算法的SVM参数优化[J];安徽大学学报(自然科学版);2009年04期
6 潘浪;单明霞;;支持向量机在资源评价中的应用研究[J];长江大学学报(自然科学版)理工卷;2009年04期
7 盘善荣;傅明;史长琼;;支持向量机在P2P流量识别中的应用[J];计算机工程与科学;2010年02期
8 乔冠军;那健;俞赛赛;;基于SVM的信息化装备状态趋势预测方法研究[J];自动化技术与应用;2007年11期
9 谢书娟;;SVM理论在图书馆馆藏图像标引方面的应用[J];甘肃科技;2010年01期
10 周珂;彭宏;胡劲松;;支持向量机在心电图分类诊断中的应用[J];微计算机信息;2006年09期
中国重要会议论文全文数据库 前10条
1 尹钟;张建华;;基于支持向量机方法的过程操作员功能状态分类[A];中国自动化学会控制理论专业委员会A卷[C];2011年
2 林杰华;张斌;李冬森;宋华茂;余志强;王浩;;支持向量机在电力客户信用评级中的应用[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
3 蒋铁军;张怀强;李积源;;多变量系统预测的支持向量机方法研究[A];管理科学与系统科学研究新进展——第7届全国青年管理科学与系统科学学术会议论文集[C];2003年
4 顾锦荣;刘华强;孙预前;;遗传算法优化的支持向量机模型在热带气旋强度预报中的应用[A];第七届长三角气象科技论坛论文集[C];2010年
5 黄淑云;孙兴玉;梁汝萍;邱建丁;;基于小波支持向量机预测蛋白质亚细胞定位研究[A];第十一届全国计算(机)化学学术会议论文摘要集[C];2011年
6 谢湘;匡镜明;;支持向量机在语音识别中的应用研究[A];现代通信理论与信号处理进展——2003年通信理论与信号处理年会论文集[C];2003年
7 涂冬成;薛龙;刘木华;赵进辉;沈杰;吁芳;;基于支持向量机的鹅肉肉色客观评定研究[A];中国农业工程学会电气信息与自动化专业委员会、中国电机工程学会农村电气化分会科技与教育专委会2010年学术年会论文摘要[C];2010年
8 杨凌;刘玉树;;基于支持向量机的坦克识别算法[A];第三届全国数字成像技术及相关材料发展与应用学术研讨会论文摘要集[C];2004年
9 师旭超;巴松涛;;基于支持向量机方法的深基坑变形预测[A];科技、工程与经济社会协调发展——河南省第四届青年学术年会论文集(上册)[C];2004年
10 张军;;支持向量机方法在地下水位干扰排除中的初步应用[A];2007年地震流体学术研讨会论文摘要集[C];2007年
中国重要报纸全文数据库 前10条
1 郭涛;利用SVM虚拟化技术实现容灾[N];中国计算机报;2008年
2 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
3 李水根;计算机详解配伍与药效关系[N];健康报;2005年
4 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
5 YMG记者 李仁 通讯员 曲华明 孙运智;我市九项目进入省“盘子”[N];烟台日报;2010年
6 上海大学理学院教授、副院长 陆文聪;酷爱化学 孜孜以求[N];中国化工报;2006年
7 ;选择合适的数据挖掘算法[N];计算机世界;2007年
8 周颖;王米渠与中医心理学[N];中国中医药报;2006年
9 记者 张云普通讯员 全攀峰 安强强;大庆物探深度域地震资料岩性解释技术获得五大突破[N];中国石油报;2008年
10 本报记者 冯治恩;敢与“雷公”试比高[N];铜川日报;2008年
中国博士学位论文全文数据库 前10条
1 梁锦锦;支持向量机和支持向量域描述的若干问题研究[D];西安电子科技大学;2009年
2 刘叶青;原始空间中支持向量机若干问题的研究[D];西安电子科技大学;2009年
3 王开义;基于支持向量机的农产品生产关键控制点发现研究[D];北京工业大学;2011年
4 常甜甜;支持向量机学习算法若干问题的研究[D];西安电子科技大学;2010年
5 胡运红;支持向量机的若干算法研究[D];山东科技大学;2011年
6 邢永忠;最小二乘支持向量机的若干问题与应用研究[D];南京理工大学;2009年
7 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
8 王冬丽;基于可扩展的支持向量机分类算法及在信用评级中的应用[D];东华大学;2011年
9 曹葵康;支持向量机加速方法及应用研究[D];浙江大学;2010年
10 鲁淑霞;基于支持向量机的多光谱数据分类[D];河北大学;2007年
中国硕士学位论文全文数据库 前10条
1 刘艳伟;支持向量机方法在感潮河段洪峰水位预报中的应用[D];浙江大学;2010年
2 杨镭;支持向量机算法设计及在高分辨雷达目标识别中的应用[D];国防科学技术大学;2010年
3 聂小芳;模糊粗糙集与支持向量机在煤与瓦斯突出预测中的应用研究[D];辽宁工程技术大学;2009年
4 韩叙东;基于支持向量机的水电故障分类器的设计与实现[D];东北大学;2008年
5 冯杰;慢时变对象的支持向量机建模与在线校正方法研究[D];东北大学;2009年
6 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
7 朱健康;基于支持向量机的音乐自动分类[D];天津大学;2010年
8 王奇安;基于广泛内核的CVM算法研究及参数C的选择[D];南京航空航天大学;2009年
9 杨振章;基于支持向量数据描述的分类识别算法研究[D];杭州电子科技大学;2009年
10 张永新;基于支持向量机和遗传算法相结合的模拟电路故障诊断方法研究[D];东北大学;2009年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026