收藏本站
《吉林大学》 2010年
收藏 | 手机打开
二维码
手机客户端打开本文

支持向量数据描述的若干问题及应用研究

谷方明  
【摘要】: 统计学习理论的目的是研究有限样本下机器学习的特征,为有限样本学习问题提供了完备统一的理论框架。支持向量机(Support Vector Machine, SVM)就是在此基础上发展起来的新的学习方法,它是基于结构风险最小化原则以及与多种机器学习方法相融合的标准技术,在使用过程中,己展现出许多优于其它方法的性能。支持向量数据描述(Support Vector Data Description, SVDD)是一种源于统计学习理论和SVM的全新的数据描述方法,与SVM寻求最优超平面不同,SVDD的出发点是寻求一个包容所有目标样本数据的最小超球体。这种有监督的单类分类器,被广泛应用于故障检测、工业及医疗检测、网络安全、目标类识别、入侵检测以及人脸识别等领域,近年来其研究在机器学习领域中非常活跃。 然而,由于支持向量数据描述是机器学习领域中比较新的理论,因此在很多方面尚不成熟,亟需做进一步研究。其中,关于SVDD的学习方法的研究是该理论的重点和难点之一。通常被使用的支持向量数据描述方法是有监督的机器学习方法。本文以提高学习能力为目标,分别从无监督和半监督两方面,围绕新型学习算法探索、提高学习准确率、数据预处理及扩展应用等方面对支持向量数据描述的若干问题进行了研究,主要工作结果如下: (1)针对无监督模式下传统的SVDD方法无法准确描绘目标数据的分布问题,提出了基于人工免疫核聚类的支持向量数据描述方法AIKCSVDD(Artifical Immune Kernel Cluster-based SVDD)。AIKCSVDD将人工免疫核聚类产生的记忆抗体作为目标数据点,使用SVDD方法进行学习。在AIKCSVDD中,一方面实现了核聚类方法解决各类数据边界不清晰的长处、免疫网络聚类方法全局收敛以及不需要先验知识等优点的有机结合;另一方面,由于用记忆抗体代替原始数据进行学习,从而在不事先指定分类个数的情况下仍能更好展现原始数据的全局分布特征。 (2)针对半监督模式下传统的SVDD方法无法准确描绘目标数据的分布问题,提出了基于半监督学习的加权支持向量域数据描述方法。在现实生活中,大量的具有已知分类信息的数据通常很难得到,为了能在较少已知信息的情况下准确描述未知数据集,考虑将标记繁殖及加权思想应用到SVDD方法中。为此,本文首先利用半监督的标记繁殖算法,根据已知信息有效学习大量未标记数据中的隐含信息,然后再通过加权的SVDD方法学习数据集的潜在分类情况。实验结果表明,该方法在较少已知信息的情况下明显优于传统的SVDD方法。 (3)在前述半监督工作的基础上,对半监督学习方法展开深入研究,从经典的的kNN(k-Nearest Neighbor)分类方法入手,给出了一种基于半监督加权距离度量学习的kNN分类方法。为了从有限的已知标签数据中找到一种合适的距离度量,考虑使用相关成分分析(Relevant Component Analysis, RCA)方法来学习一个马氏距离度量。然而传统的RCA方法在度量学习过程中对类别信息标记的数量具有很强的依赖性,且在标记信息数量很少或有错误的情况下可能会引起相应的度量偏差,进而考虑使用半监督的学习方法来克服传统RCA方法的局限性。该方法可从极少量已知标记信息中通过标记繁殖和加权算法学习到一个马氏距离;进而将其应用于kNN分类方法。实验结果表明,在标记信息极少的情况下该方法的分类效果优于采用欧式距离的kNN分类方法。 (4)针对在故障诊断等应用领域数据维度较高、数据分布不均匀等特点,本文研究并给出了基于核距离度量LLE的支持向量数据描述方法。为了能够挖掘出隐藏在高维观测数据中有意义的低维结果,更好地提取易于识别的特征,该方法考虑在应用数据的预处理过程中使用LLE方法对数据降维。但由于LLE算法需要稠密采样,在高维稀疏空间中采用欧式距离往往导致效果不尽人意的状况,因此使用核空间距离代替原LLE算法的欧式距离度量,然后利用改进的LLE方法对数据集进行降维,从而使新得到的数据在较小的数据维度中更好地保持了原有的数据流形。最后应用SVDD方法处理新得到的数据。基于SVDD的故障检测实验表明,该方法特别适合于维度较高、分布不均匀的应用数据集。 综上所述,本文对支持向量数据描述的若干问题及应用开展了研究,文中提出的一些新方法对于提高SVDD的学习能力很有理论意义和应用价值。在后继工作中,将进一步完善、深入现有的研究结果,同时将研究成果融入到工程应用实践当中。
【学位授予单位】:吉林大学
【学位级别】:博士
【学位授予年份】:2010
【分类号】:TP181

手机知网App
【引证文献】
中国期刊全文数据库 前2条
1 彭磊;贾莹媛;杨富春;杨志文;;基于SVDD的变形监测数据可靠性分析研究[J];北京测绘;2012年01期
2 姜洋洋;;入侵检测对于黑客防御的手段和作用[J];电子测试;2013年24期
中国博士学位论文全文数据库 前2条
1 李玉萍;基于先进计算的智能入侵检测系统研究[D];中国地震局地球物理研究所;2012年
2 易辉;基于支持向量机的故障诊断及应用研究[D];南京航空航天大学;2011年
中国硕士学位论文全文数据库 前1条
1 王啸原;图像灰度值类别概率估计研究[D];华中科技大学;2013年
【参考文献】
中国期刊全文数据库 前10条
1 胡正平,张晔;带拒识能力的双层支持向量模型分类器[J];电子学报;2005年07期
2 朱孝开;杨德贵;;基于推广能力测度的多类SVDD模式识别方法[J];电子学报;2009年03期
3 潘志松;陈斌;缪志敏;倪桂强;;One-Class分类器研究[J];电子学报;2009年11期
4 缪志敏;潘志松;袁伟伟;赵陆文;;一种新的基于SVDD的多类分类算法[J];计算机科学;2009年03期
5 陆从德,张太镒,胡金燕;基于乘性规则的支持向量域分类器[J];计算机学报;2004年05期
6 胡正平;谭营;;基于目标模糊置信度描述驱动的区域能量进化增长图像分割算法[J];自动化学报;2008年09期
7 赵峰;张军英;刘敬;;一种改善支撑向量域描述性能的核优化算法[J];自动化学报;2008年09期
8 谢磊;刘雪芹;张建明;王树青;;基于NGPP-SVDD的非高斯过程监控及其应用研究[J];自动化学报;2009年01期
9 陈斌;李斌;潘志松;陈松灿;;流形嵌入的支持向量数据描述[J];模式识别与人工智能;2009年04期
10 王培良;颜文俊;;一种新的动态非高斯过程监控方法[J];仪器仪表学报;2009年03期
中国博士学位论文全文数据库 前1条
1 高滢;多关系聚类分析方法研究[D];吉林大学;2008年
【共引文献】
中国期刊全文数据库 前10条
1 陈征;;一类系统的二次李雅普诺夫函数存在性的判断[J];安徽电子信息职业技术学院学报;2006年04期
2 孙小军;焦建民;何俊红;;解优化问题的遗传加速信赖域搜索算法[J];安徽大学学报(自然科学版);2008年03期
3 张家昕;段复建;;一种结合NCP函数的SQP滤子新算法[J];安徽大学学报(自然科学版);2010年05期
4 高洪;孟舒;查为民;李玲纯;张海涛;;6-3-3并联机构物理样机结构优化[J];安徽工程大学学报;2011年03期
5 李淑华;徐良培;陶建平;;基于支持向量机的我国水产品出口贸易风险预警研究[J];安徽农业科学;2008年30期
6 程伟;张燕平;赵姝;;支持向量机在粮食产量预测中的应用[J];安徽农业科学;2009年08期
7 赵万明;黄彦全;谌贵辉;;基于支持向量机的农村用电量需求预测[J];安徽农业科学;2009年25期
8 李兵方;胡水玲;;浅析多元凸函数的分析学性质[J];安康学院学报;2011年03期
9 燕峰,李世国;汽车座椅的设计与优化[J];鞍山科技大学学报;2004年05期
10 李江海,孙秦;结构型吸波材料隐身特性的优化设计算法研究[J];兵器材料科学与工程;2004年02期
中国重要会议论文全文数据库 前10条
1 刘钰;韩峰;董楠;陆希成;雷鸣;;爆炸容器安全概率的统计分析方法[A];全国危险物质与安全应急技术研讨会论文集(下)[C];2011年
2 周绮凤;林成德;罗林开;彭洪;;一种基于黎曼度量的训练样本类不平衡SVM分类方法研究[A];第二十六届中国控制会议论文集[C];2007年
3 顾小军;杨世锡;钱苏翔;;基于支持向量机的旋转机械多类故障识别研究[A];第二十六届中国控制会议论文集[C];2007年
4 康传会;汪晓东;汪轲;常健丽;;基于最小二乘支持向量机的迟滞建模方法[A];第二十九届中国控制会议论文集[C];2010年
5 姚智颖;刘冬;;基于Kazakov线性化的迭代滤波[A];第二十九届中国控制会议论文集[C];2010年
6 许强;杨佳;;基于线性加权的免疫克隆算法的手指静脉特征提取[A];中国自动化学会控制理论专业委员会B卷[C];2011年
7 ;Data-driven Process Monitoring Method Based on Dynamic Component Analysis[A];中国自动化学会控制理论专业委员会B卷[C];2011年
8 刘英林;刘洪鹏;査星云;宋扬;;基于SVM的热轧钢卷性能分析[A];中国计量协会冶金分会2012年会暨能源计量与节能降耗经验交流会论文集[C];2012年
9 陈晓清;马君国;赵宏钟;付强;;基于二维小波变换的激光成像雷达目标识别算法[A];中国光学学会2010年光学大会论文集[C];2010年
10 姚海祥;;基于非参数估计方法和CARA效用函数的投资组合选择[A];第十三届中国管理科学学术年会论文集[C];2011年
中国博士学位论文全文数据库 前10条
1 李高云;大型船舶航向/航迹智能容错控制研究[D];哈尔滨工程大学;2010年
2 谭佳琳;粒子群优化算法研究及其在海底地形辅助导航中的应用[D];哈尔滨工程大学;2010年
3 梁洪;基于内容的医学图像检索及语义建模关键技术研究[D];哈尔滨工程大学;2010年
4 殷志伟;基于统计学习理论的分类方法研究[D];哈尔滨工程大学;2009年
5 孔凡芝;引线键合视觉检测关键技术研究[D];哈尔滨工程大学;2009年
6 陈得宇;基于MAS的智能电压控制系统研究[D];哈尔滨工程大学;2010年
7 李晚龙;六自由度Stewart平台分散智能控制研究[D];哈尔滨工程大学;2010年
8 杨宁;计算机辅助卷烟配方设计关键技术研究[D];中国海洋大学;2010年
9 刘冬雁;川西高原甘孜黄土记录的早更新世晚期以来的古气候变化[D];中国海洋大学;2009年
10 王敏;分布式电源的概率建模及其对电力系统的影响[D];合肥工业大学;2010年
中国硕士学位论文全文数据库 前10条
1 张小亮;非线性规划的信赖域算法[D];河南理工大学;2010年
2 徐芳芳;优化问题的PVD算法研究[D];山东科技大学;2010年
3 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
4 韩晓峰;高斯混合模型及在探测网络社区结构中的应用[D];山东科技大学;2010年
5 姜成玉;基于支持向量机的时间序列预测[D];辽宁师范大学;2010年
6 李海清;支持向量机在金融市场预测中的应用[D];辽宁师范大学;2010年
7 易明;地震作用下渡槽结构的动力可靠度分析[D];郑州大学;2010年
8 李朋勇;基于全矢高阶谱的故障诊断方法及其应用研究[D];郑州大学;2010年
9 乔小琴;基于灰理论的土石坝安全监控综合评价模型研究[D];郑州大学;2010年
10 仝伟;一类熵型的内邻近点算法及其应用[D];郑州大学;2010年
【同被引文献】
中国期刊全文数据库 前10条
1 刘占宇;周湾;张莉丽;;入侵植物加拿大一枝黄花的高光谱特性研究[J];安徽农学通报(上半月刊);2011年07期
2 徐效军;张鹰;;土壤含水率与光谱反射率的灰色关联分析[J];安徽农业科学;2006年07期
3 卢霞;;沿海滩涂棉花叶片叶绿素含量高光谱遥感估算模型研究[J];安徽农业科学;2011年12期
4 姚慧;吕成文;刘程海;方萍;;宣城市岗坡地土壤有机质含量光谱预测分析[J];安徽师范大学学报(自然科学版);2011年05期
5 唐彦;;土壤含盐量反演的研究[J];测绘工程;2010年06期
6 冯志敏;邢文渊;肖继东;石玉;王蕾;;遥感监测土壤湿度综述及其在新疆的应用展望[J];测绘科学;2008年05期
7 姚付启;张振华;杨润亚;何玉春;张燕;崔素芳;王海江;;基于主成分分析和BP神经网络的法国梧桐叶绿素含量高光谱反演研究[J];测绘科学;2010年01期
8 谭琨;杜培军;王小美;;基于支持向量机和多变量分析的高光谱遥感数据分类[J];测绘通报;2009年11期
9 郭洋洋;张连蓬;王德高;马维维;;小波分析在植物叶绿素高光谱遥感反演中的应用[J];测绘通报;2010年08期
10 朱继文;刘丹丹;;基于高光谱数据的土壤含盐量BP神经网络模型研究[J];东北农业大学学报;2009年10期
中国博士学位论文全文数据库 前10条
1 王飞;入侵检测分类器设计及其融合技术研究[D];南京理工大学;2011年
2 史旭华;基于多Agent系统的人工免疫网络及其应用研究[D];华东理工大学;2011年
3 常甜甜;支持向量机学习算法若干问题的研究[D];西安电子科技大学;2010年
4 董元方;机器学习中的模型选择问题研究[D];吉林大学;2011年
5 周伟达;核机器学习方法研究[D];西安电子科技大学;2003年
6 何挺;土地质量高光谱遥感监测方法研究[D];武汉大学;2003年
7 刘若辰;免疫克隆策略算法及其应用研究[D];西安电子科技大学;2005年
8 张义荣;基于机器学习的入侵检测技术研究[D];国防科学技术大学;2005年
9 朱永宣;基于模式识别的入侵检测关键技术研究[D];北京邮电大学;2006年
10 葛红;免疫算法及核聚类人工免疫网络应用研究[D];华南理工大学;2003年
中国硕士学位论文全文数据库 前3条
1 谢伯承;基于高光谱遥感不同发生层土壤的光谱信息的提取研究[D];西北农林科技大学;2004年
2 刘天乐;基于高光谱遥感的矿物光谱特征分析和提取[D];中国地质大学;2009年
3 赵学风;基于支持向量的结构健康状态智能诊断方法[D];长安大学;2007年
【二级引证文献】
中国硕士学位论文全文数据库 前1条
1 黄永生;基于特征匹配检测功能的入侵检测系统的设计与实现[D];安徽大学;2013年
【二级参考文献】
中国期刊全文数据库 前10条
1 陈佳;吴跃;;基于对象关系数据库的电力信息网本体映射[J];电子测量与仪器学报;2008年06期
2 王守觉;仿生模式识别(拓扑模式识别)——一种模式识别新模型的理论与应用[J];电子学报;2002年10期
3 薛万欣,刘大有,张弘;Bayesian网中概率参数学习方法[J];电子学报;2003年11期
4 李洁;高新波;焦李成;;基于特征加权的模糊聚类新算法[J];电子学报;2006年01期
5 赵亮,胡乃静,张守志;个性化推荐算法设计[J];计算机研究与发展;2002年08期
6 孙广玲,唐降龙;基于分层高斯混合模型的半监督学习算法[J];计算机研究与发展;2004年01期
7 周军锋,汤显,郭景峰;一种优化的协同过滤推荐算法[J];计算机研究与发展;2004年10期
8 杨剑;王珏;钟宁;;流形上的Laplacian半监督回归[J];计算机研究与发展;2007年07期
9 燕继坤,王勇,曹春霞,郑辉;样本错误加权的支持向量数据描述[J];计算机工程;2005年02期
10 徐文龙;姚立红;潘理;倪佑生;;基于TSVM的网络入侵检测研究[J];计算机工程;2006年18期
中国博士学位论文全文数据库 前1条
1 谢磊;间歇过程统计性能监控研究[D];浙江大学;2005年
【相似文献】
中国期刊全文数据库 前10条
1 莫宏伟;基于人工免疫网络的联想记忆器[J];自动化技术与应用;2002年01期
2 杜海峰,王孙安;基于ART—人工免疫网络的多级压缩机故障诊断[J];机械工程学报;2002年04期
3 尤勇,盛万兴,王孙安;基于人工免疫网络的短期负荷预测模型[J];中国电机工程学报;2003年03期
4 庄健,王孙安;基于人工免疫网络机器人路径规划算法的进一步研究[J];系统仿真学报;2004年05期
5 徐雪松,诸静;人工免疫网络的改进及其在免疫神经控制中的应用[J];浙江大学学报(工学版);2004年07期
6 莫宏伟,吕淑萍,管凤旭,徐立芳,叶秀芬,马忠丽,王辉;基于人工免疫网络记忆的新型分类器研究[J];计算机工程与应用;2004年36期
7 杜海峰;王孙安;;基于ART-人工免疫网络的数据浓缩方法研究[J];模式识别与人工智能;2001年04期
8 王孙安,王斌,庄健;复杂工业过程中分布式免疫控制算法的研究[J];系统仿真学报;2004年06期
9 岳训;迟忠先;莫宏伟;郝艳友;;基于免疫网络聚类算法的特征垃圾邮件获取技术[J];计算机工程与应用;2005年35期
10 蒋加伏,罗晓萍,唐贤瑛,朱金好;数据聚类的FCM与aiNet方法[J];计算机工程与设计;2004年04期
中国重要会议论文全文数据库 前4条
1 王秋生;高绍坤;崔勇;;基于人工免疫网络和AR模型的聚类与预测算法[A];第三届全国虚拟仪器大会论文集[C];2008年
2 莫宏伟;金鸿章;;人工免疫系统、人工神经网络、进化算法的比较[A];2003中国控制与决策学术年会论文集[C];2003年
3 宋申民;于志刚;段广仁;;一种新的基于免疫网络的人工免疫算法[A];2005中国控制与决策学术年会论文集(上)[C];2005年
4 陈建华;李刚强;傅调平;;基于免疫Multi-Agent舰艇对空防御CGF建模[A];第13届中国系统仿真技术及其应用学术年会论文集[C];2011年
中国博士学位论文全文数据库 前10条
1 史旭华;基于多Agent系统的人工免疫网络及其应用研究[D];华东理工大学;2011年
2 谷方明;支持向量数据描述的若干问题及应用研究[D];吉林大学;2010年
3 何海;混合动力汽车控制系统设计与仿真[D];华中科技大学;2005年
4 葛红;免疫算法及核聚类人工免疫网络应用研究[D];华南理工大学;2003年
5 刘丽;人工免疫网络研究及应用[D];江南大学;2008年
6 周桂红;基于多Agent的数控机床远程故障诊断系统研究[D];吉林大学;2008年
7 叶彬;混合智能建模技术及其在短期负荷预测中的应用研究[D];浙江大学;2006年
8 丁敬国;中厚板轧制过程软测量技术的研究与应用[D];东北大学 ;2009年
9 林勇;基于振动谱图像识别的故障诊断方法研究[D];浙江大学;2009年
10 朱玉;面向瓦斯突出预测的人工免疫算法与模型研究[D];中国矿业大学;2009年
中国硕士学位论文全文数据库 前10条
1 钮满春;基于人工免疫网络的分类算法及其应用[D];西安电子科技大学;2010年
2 方卓然;基于人工免疫网络的道路状况动态预测[D];南京航空航天大学;2009年
3 郑贵庆;基于人工免疫网络的药代动力学研究[D];电子科技大学;2013年
4 李伟;基于人工免疫网络的分类算法研究[D];电子科技大学;2010年
5 李培道;改进的人工免疫网络算法及其大规模数据聚类研究[D];西安电子科技大学;2014年
6 伍云辉;结构自适应的人工免疫网络分类算法研究[D];西安电子科技大学;2012年
7 郑仙花;人工免疫系统及其在数据处理中的应用[D];华侨大学;2013年
8 王帆;基于优化目标可调控的免疫聚类算法的研究[D];太原理工大学;2010年
9 蔺恒;基于人工免疫网络的图像分割[D];西安电子科技大学;2010年
10 杜新凯;基于人工免疫网络的强化学习机制研究[D];哈尔滨工业大学;2007年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026