收藏本站
《南京理工大学》 2003年
收藏 | 手机打开
二维码
手机客户端打开本文

支持向量机在分类及人脸检测应用中的研究

江锋  
【摘要】: 支持向量机(Support Vector Machines,简称SVM)是在统计学习理论的基础上发展起来的一种新的学习方法,它已初步表现出很多优于已有方法的性能。由于采用了结构风险最小化原则代替经验风险最小化原则,使得较好的解决了小样本学习的问题;又由于采用了核函数思想,使它把非线性空间的问题转换到线性空间,降低了算法的复杂度。正是因为其完备的理论基础和出色的学习性能,该技术已成为机器学习界的研究热点,并在很多领域都得到了成功的应用,如人脸检测、手写体数字识别、文本自动分类等。但是作为一种新兴技术,SVM在很多应用领域的研究还有待探索和完善。例如:核函数和参数的选择缺乏理论指导、缺乏容噪性能、训练算法的完善、不支持增量学习、缺乏和先验知识的整合能力等等。这些问题的存在,使得SVM在很多领域的应用受到了很大限制。本文在学习探讨SVM算法的同时,对SVM在图像处理领域的几种应用进行了论述。 本文工作包括: (1)最优化理论的学习以及训练算法的本质 SVM训练的本质是解决一个二次规划(Quadratic Programming,简称QP)问题,这是最优化理论的范畴。本文通过简要介绍最优化理论,力图说明SVM众多算法的改进方向。 (2)SVM在图像处理中的一般使用 在对SVM学习特点的深入分析基础上,论述了其在图像处理中的应用,比如简单图像分类、遥感图像分类等等。 (3)SVM在人脸检测中的应用 主成份分析(PCA)的特征脸方法已经在人脸检测、人脸识别、人脸跟踪中取得了较好的结果。但是,主成份分析具有一定的局限性,它体现的是图像集的低维统计特征,而对于图像上类似多个点之间相互关系的高维统计特征没有进行反映。针对这个问题,本文提出了用Kernel PCA来提取图像特征,并用支持向量机(SVM)进行分类的方法。Kernel PCA不仅能够反映图像的高维特征,而且不会发生维数爆炸带来的灾难性后果。
【关键词】:支持向量机 二次规划 核函数 主成份分析
【学位授予单位】:南京理工大学
【学位级别】:硕士
【学位授予年份】:2003
【分类号】:TP391.41
【目录】:
  • 摘要2-3
  • ABSTRACT3-7
  • 第一章 序论7-19
  • 1.1 论文背景7-8
  • 1.2 机器学习的基本问题8-10
  • 1.2.1 问题的表示8-9
  • 1.2.2 经验风险最小化9-10
  • 1.2.3 复杂性与推广能力10
  • 1.3 统计学习理论的核心内容10-13
  • 1.3.1 VC维11
  • 1.3.2 推广性的界11-12
  • 1.3.3 结构风险最小化12-13
  • 1.4 支持向量机13-17
  • 1.4.1 广义最优分类面13-15
  • 1.4.2 支持向量机15-16
  • 1.4.3 核函数16
  • 1.4.4 核函数主成分分析16-17
  • 1.5 本文主要工作17-19
  • 第二章 最优化理论及SVM训练算法19-28
  • 2.1 引言19
  • 2.2 SVM分类的表示19-20
  • 2.3 最优化理论简介20-25
  • 2.3.1 最优化理论的引言20-21
  • 2.3.2 最优化方法的结构21-22
  • 2.3.3 二次规划22-23
  • 2.3.4 内点算法23-25
  • 2.4 SVM训练算法25-27
  • 2.5 结论27-28
  • 第三章 SVM分类在图像处理中的实例分析28-40
  • 3.1 引言28
  • 3.2 SVM分类的流程28-30
  • 3.3 实例分析30-39
  • 3.3.1 核函数与参数选择30-39
  • 3.3.2 SVM分类效果的原理分析39
  • 3.4 小结39-40
  • 第四章 KERNEL PCA的人脸检测方法40-48
  • 4.1 引言40
  • 4.2 人脸检测40-41
  • 4.3 传统PCA方法的人脸检测41-42
  • 4.4 核空间思想42-44
  • 4.5 Kernel PCA方法的人脸检测44-45
  • 4.6 试验及结果45-48
  • 4.6.1 试验45-46
  • 4.6.2 结果分析46-48
  • 第五章 结束语48-50
  • 致谢50-51
  • 参考文献51-55

【引证文献】
中国期刊全文数据库 前1条
1 杨希;钱锋;张兵;;基于核函数主元分析的SVM建模方法及应用[J];华东理工大学学报(自然科学版);2007年02期
中国硕士学位论文全文数据库 前2条
1 易小志;地铁馈电线路行波保护方式研究[D];北京化工大学;2006年
2 孙铁;改进的核函数算法及其在人脸识别中的应用研究[D];西北工业大学;2007年
【参考文献】
中国期刊全文数据库 前5条
1 萧嵘,孙晨,王继成,张福炎;一种具有容噪性能的SVM多值分类器[J];计算机研究与发展;2000年09期
2 张学工;关于统计学习理论与支持向量机[J];自动化学报;2000年01期
3 梁路宏,艾海舟,何克忠,张钹;基于多关联模板匹配的人脸检测[J];软件学报;2001年01期
4 朱建华,刘政凯,俞能海;一种多光谱遥感图象的自适应最小距离分类方法[J];中国图象图形学报;2000年01期
5 刘伟强,陈鸿,夏德深;基于马尔可夫随机场的快速图象分割[J];中国图象图形学报;2001年03期
中国硕士学位论文全文数据库 前1条
1 沈培华;支持矢量机的算法研究和应用[D];南京理工大学;2002年
【共引文献】
中国期刊全文数据库 前10条
1 王东霞;张楠;路晓丽;;基于育种算法的SVM参数优化[J];安徽大学学报(自然科学版);2009年04期
2 杨绪兵,韩自存;ε不敏感的核Adaline算法及其在图像去噪中的应用[J];安徽工程科技学院学报(自然科学版);2003年04期
3 陶秀凤,唐诗忠,周鸣争;基于支持向量机的软测量模型及应用[J];安徽工程科技学院学报(自然科学版);2004年02期
4 宋昕;陈龙乾;冯建美;;徐州市土地利用遥感动态监测分析[J];安徽农学通报(上半月刊);2011年09期
5 李淑华;徐良培;陶建平;;基于支持向量机的我国水产品出口贸易风险预警研究[J];安徽农业科学;2008年30期
6 许高程;张文君;王卫红;;支持向量机技术在遥感影像滑坡体提取中的应用[J];安徽农业科学;2009年06期
7 程伟;张燕平;赵姝;;支持向量机在粮食产量预测中的应用[J];安徽农业科学;2009年08期
8 武素华;;基于最小二乘支持向量机的土壤含水量检测的研究与分析[J];安徽农业科学;2009年09期
9 赵万明;黄彦全;谌贵辉;;基于支持向量机的农村用电量需求预测[J];安徽农业科学;2009年25期
10 陈念;沈佐民;;基于化学成分检测和SVM分类的茶叶品质鉴定[J];安徽农业科学;2010年15期
中国重要会议论文全文数据库 前10条
1 ;An effective procedure exploiting unlabeled data to build monitoring system[A];中国科学院地质与地球物理研究所第11届(2011年度)学术年会论文集(下)[C];2012年
2 宋海鹰;桂卫华;阳春华;;基于核偏最小二乘的简约最小二乘支持向量机及其应用研究[A];第二十六届中国控制会议论文集[C];2007年
3 ;A Novel Kernel PCA Support Vector Machine Algorithm with Feature Transition Function[A];第二十六届中国控制会议论文集[C];2007年
4 ;A Novel Proximal Support Vector Machine and Its Application in Radar Target Recognition[A];第二十六届中国控制会议论文集[C];2007年
5 周绮凤;林成德;罗林开;彭洪;;一种基于黎曼度量的训练样本类不平衡SVM分类方法研究[A];第二十六届中国控制会议论文集[C];2007年
6 顾小军;杨世锡;钱苏翔;;基于支持向量机的旋转机械多类故障识别研究[A];第二十六届中国控制会议论文集[C];2007年
7 吕蓬;柳亦兵;马强;魏于凡;;支持向量机在齿轮智能故障诊断中的应用研究[A];第二十六届中国控制会议论文集[C];2007年
8 姜明辉;袁绪川;;基于GA优化的个人信用评估SVM模型[A];第二十六届中国控制会议论文集[C];2007年
9 韩露;余正涛;邓锦辉;章程;毛存礼;郭剑毅;;领域知识关系对领域文本分类的影响[A];第二十七届中国控制会议论文集[C];2008年
10 ;Fault Pattern Recognition of Rolling Bearings Based on Wavelet Packet and Support Vector Machine[A];第二十七届中国控制会议论文集[C];2008年
中国博士学位论文全文数据库 前10条
1 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
2 母丽华;煤矿安全预警系统的方法研究[D];哈尔滨工程大学;2010年
3 梁洪;基于内容的医学图像检索及语义建模关键技术研究[D];哈尔滨工程大学;2010年
4 殷志伟;基于统计学习理论的分类方法研究[D];哈尔滨工程大学;2009年
5 朱广平;混响干扰中的信号检测技术研究[D];哈尔滨工程大学;2009年
6 孔凡芝;引线键合视觉检测关键技术研究[D];哈尔滨工程大学;2009年
7 李晚龙;六自由度Stewart平台分散智能控制研究[D];哈尔滨工程大学;2010年
8 杨宁;计算机辅助卷烟配方设计关键技术研究[D];中国海洋大学;2010年
9 郑大腾;柔性坐标测量机空间误差模型及最佳测量区研究[D];合肥工业大学;2010年
10 柏坚;非线性数学地质模型研究及在滇东南金矿成矿预测中的应用[D];中国地质大学(北京);2010年
中国硕士学位论文全文数据库 前10条
1 展慧;基于多源信息融合技术的板栗分级检测方法研究[D];华中农业大学;2010年
2 杜二玲;拟概率空间上等均值噪声下统计学习理论的理论基础[D];河北大学;2007年
3 朱杰;一种基于聚类的支持向量机反问题求解算法[D];河北大学;2007年
4 李金华;基于SVM的多类文本分类研究[D];山东科技大学;2010年
5 徐芳芳;优化问题的PVD算法研究[D];山东科技大学;2010年
6 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
7 安文娟;Fisher和支持向量综合分类器[D];辽宁师范大学;2010年
8 姜成玉;基于支持向量机的时间序列预测[D];辽宁师范大学;2010年
9 李海清;支持向量机在金融市场预测中的应用[D];辽宁师范大学;2010年
10 江达秀;基于HMAX模型的人脸表情识别研究[D];浙江理工大学;2010年
【同被引文献】
中国期刊全文数据库 前10条
1 乔峨,安作平,罗承沐;应用在混合式光电电流互感器中的Rogowski线圈[J];变压器;2000年05期
2 林湘宁,刘沛,程时杰,徐长发;小波分析基础理论及其在电力系统中的应用──第3讲 应用综述[J];电力系统自动化;1997年12期
3 杨立新;地铁牵引供电制式的比较与选择(上)[J];地铁与轻轨;1996年01期
4 于松伟;城市轨道交通工程供电系统设备国产化的分析与思考[J];地铁与轻轨;1999年03期
5 王国胜,钟义信;支持向量机的若干新进展[J];电子学报;2001年10期
6 李维波,毛承雄,陆继明,余翔,黄浩;Rogowski线圈的结构、电磁参数对其性能影响的研究[J];高压电器;2004年02期
7 王华忠,俞金寿;基于核函数主元分析的软测量建模方法及应用[J];华东理工大学学报;2004年05期
8 何岭松,吴波,康宜华,吴雅;小波分析及其在设备故障诊断中的应用[J];华中理工大学学报;1993年01期
9 崔伟东,周志华,李星;支持向量机研究[J];计算机工程与应用;2001年01期
10 王刚,冯贵玉,胡德文;基于ICA的全局人脸表示[J];计算机工程;2004年02期
中国博士学位论文全文数据库 前1条
1 吴涛;核函数的性质、方法及其在障碍检测中的应用[D];中国人民解放军国防科学技术大学;2003年
中国硕士学位论文全文数据库 前9条
1 王燕山;基于虚拟仪器的电液伺服阀静动态特性CAT理论与实验研究[D];燕山大学;2001年
2 刘毅华;电力系统故障检测新方法研究[D];浙江大学;2002年
3 龙飞;脑电消噪的独立分量分析方法及其应用研究[D];安徽大学;2002年
4 董西国;支持向量机在数据挖掘中的应用[D];哈尔滨工程大学;2002年
5 宋芸;基于小波与神经网络的变压器励磁涌流识别方法的研究[D];河海大学;2003年
6 艾琳;高压直流输电线路行波保护的研究[D];华北电力大学(北京);2003年
7 黄文艳;支持向量机与指纹分类算法研究[D];河北工业大学;2003年
8 许光;支持向量机在化工过程建模中的应用[D];浙江大学;2004年
9 周义明;北京市轻轨运输牵引供电线路故障检测技术研究[D];北京化工大学;2005年
【二级引证文献】
中国期刊全文数据库 前6条
1 汤伟;戴庆瑜;王孟效;许宝华;陈玉钟;;采用Profibus现场总线的碱回收集成优化控制系统[J];化工自动化及仪表;2011年04期
2 喻乐;和敬涵;王小君;薄志谦;;基于Mexh小波变换的直流馈线保护方法[J];电力系统保护与控制;2012年11期
3 蔡静颖;张永;张凤梅;谢福鼎;;优化KPCA特征提取下的FCM算法研究[J];计算机工程与应用;2009年32期
4 宋晖;薛云;张良均;;基于SVM分类问题的核函数选择仿真研究[J];计算机与现代化;2011年08期
5 冯甲策;叶明;王惠文;;基于Gram-Schmidt过程的支持向量机降维方法[J];计算机技术与发展;2009年11期
6 马杰;蔡延光;;基于改进SVM方法的车牌识别研究[J];现代计算机(专业版);2012年14期
中国重要会议论文全文数据库 前1条
1 王劼;肖安雁;杨巍;;基于模糊神经网络的自适应重合闸[A];第二届中国水利水电岩土力学与工程学术讨论会论文集(二)[C];2008年
中国博士学位论文全文数据库 前2条
1 田华阁;聚丙烯装置产品质量软测量技术研究[D];中国石油大学;2010年
2 孙元;软测量模型自适应校正与高温场软测量方法研究[D];中南大学;2012年
中国硕士学位论文全文数据库 前10条
1 蔡静颖;模糊c-均值算法的研究[D];辽宁师范大学;2010年
2 曹雅怀;城市轨道直流馈线保护新原理研究[D];华北电力大学(北京);2011年
3 张思懿;基于核方法的异常检测技术的研究[D];江南大学;2012年
4 赵晶;基于HMM的人脸识别研究[D];大连大学;2008年
5 洪玥;基于Fisher判别的人脸识别技术研究[D];河北工程大学;2009年
6 张明罡;毛竹林水土保持耕作体系下土壤侵蚀预测模型研究[D];福建农林大学;2009年
7 王丽娟;软测量技术及其在含聚原油脱水生产过程中的应用[D];大庆石油学院;2009年
8 窦蓉蓉;基于集成学习的人脸识别算法研究及应用[D];安徽大学;2010年
9 张炎欣;基于即时学习策略的电厂热工参数预测模型及应用研究[D];中南大学;2010年
10 赵晋丽;基于KPCA与SVM的工业过程故障诊断方法的应用研究[D];东北大学;2008年
【二级参考文献】
中国期刊全文数据库 前8条
1 刘岩,韩承德,王义和,李晓明;模拟退火算法的背景与单调升温的模拟退火算法[J];计算机研究与发展;1996年01期
2 李晓黎,刘继敏,史忠植;基于支持向量机与无监督聚类相结合的中文网页分类器[J];计算机学报;2001年01期
3 张铃;支持向量机理论与基于规划的神经网络学习算法[J];计算机学报;2001年02期
4 张学工;关于统计学习理论与支持向量机[J];自动化学报;2000年01期
5 卢增祥,李衍达;交互支持向量机学习算法及其应用[J];清华大学学报(自然科学版);1999年07期
6 卢春雨,张长水,闻芳,阎平凡;基于区域特征的快速人脸检测法[J];清华大学学报(自然科学版);1999年01期
7 靳文戟,刘政凯;多类别遥感图像的复合分类方法[J];环境遥感;1995年04期
8 朱建华,刘政凯,俞能海;一种多光谱遥感图象的自适应最小距离分类方法[J];中国图象图形学报;2000年01期
【相似文献】
中国期刊全文数据库 前10条
1 山艳;须文波;孙俊;;基于QPSO算法训练SVM[J];计算机应用研究;2007年07期
2 陈俏;曹根牛;谢丽娟;;支持向量机的研究进展[J];现代计算机(专业版);2009年04期
3 陆波,尉询楷,毕笃彦;支持向量机在分类中的应用[J];中国图象图形学报;2005年08期
4 田建忠;王威;谢梅芳;;基于粒子群算法的支持向量机训练和实现方法[J];武汉理工大学学报(信息与管理工程版);2007年10期
5 余萍;;基于边界调节的支持向量机模型[J];新课程(教育学术版);2008年02期
6 宋杰;;支持向量机及其训练算法[J];韶关学院学报;2008年03期
7 杨飞;王猛;;基于支持向量机的煤炭销售预测系统的研究[J];计算机与数字工程;2011年06期
8 何鸣;李国正;袁捷;;医学诊断中集成学习技术的研究[J];计算机工程与应用;2006年28期
9 朱雪芳;;改进支持向量聚类算法的研究[J];计算机测量与控制;2006年12期
10 吴翔;谭李;陆文凯;张学工;;提高超大规模SVM训练计算速度的研究[J];模式识别与人工智能;2003年01期
中国重要会议论文全文数据库 前10条
1 林杰华;张斌;李冬森;宋华茂;余志强;王浩;;支持向量机在电力客户信用评级中的应用[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
2 蒋铁军;张怀强;李积源;;多变量系统预测的支持向量机方法研究[A];管理科学与系统科学研究新进展——第7届全国青年管理科学与系统科学学术会议论文集[C];2003年
3 黄淑云;孙兴玉;梁汝萍;邱建丁;;基于小波支持向量机预测蛋白质亚细胞定位研究[A];第十一届全国计算(机)化学学术会议论文摘要集[C];2011年
4 谢湘;匡镜明;;支持向量机在语音识别中的应用研究[A];现代通信理论与信号处理进展——2003年通信理论与信号处理年会论文集[C];2003年
5 涂冬成;薛龙;刘木华;赵进辉;沈杰;吁芳;;基于支持向量机的鹅肉肉色客观评定研究[A];中国农业工程学会电气信息与自动化专业委员会、中国电机工程学会农村电气化分会科技与教育专委会2010年学术年会论文摘要[C];2010年
6 杨凌;刘玉树;;基于支持向量机的坦克识别算法[A];第三届全国数字成像技术及相关材料发展与应用学术研讨会论文摘要集[C];2004年
7 师旭超;巴松涛;;基于支持向量机方法的深基坑变形预测[A];科技、工程与经济社会协调发展——河南省第四届青年学术年会论文集(上册)[C];2004年
8 Dougsoo Kaown;刘建国;;支持向量机的几何解法(英文)[A];中国运筹学会第八届学术交流会论文集[C];2006年
9 张军;;支持向量机方法在地下水位干扰排除中的初步应用[A];2007年地震流体学术研讨会论文摘要集[C];2007年
10 许建生;盛立东;;基于改进的支持向量机和BP神经网络的识别算法[A];第八届全国汉字识别学术会议论文集[C];2002年
中国重要报纸全文数据库 前10条
1 本报记者 娄立平;万通地产 首倡“二次规划”[N];中国房地产报;2005年
2 本报记者  孙蔚;社区二次规划能否弥补先天不足[N];中国消费者报;2006年
3 中国楼市记者  张俐;寻求社区可持续发展[N];中国建设报;2006年
4 张璐通讯员 吴树群;科贸金街整体升级[N];天津日报;2007年
5 本报记者  马琳;开发商的物业情节:自给自足还是专业分工?[N];中国房地产报;2006年
6 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
7 李水根;计算机详解配伍与药效关系[N];健康报;2005年
8 种筱娜 程敏;圆明新园:追“新”十载风华更盛[N];珠海特区报;2007年
9 徐钰烨;科技新城规划突出五大重点[N];江阴日报;2008年
10 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
中国博士学位论文全文数据库 前10条
1 马儒宁;神经网络与支持向量机相关问题研究[D];复旦大学;2005年
2 董春曦;支持向量机及其在入侵检测中的应用研究[D];西安电子科技大学;2004年
3 杜小芳;基于CPFR的农产品采购模型研究[D];华中科技大学;2005年
4 刘育明;动态过程数据的多变量统计监控方法研究[D];浙江大学;2006年
5 栾锋;支持向量机(SVM)和径向基神经网络(RBFNN)方法在化学、环境化学和药物化学中的应用研究[D];兰州大学;2006年
6 孙薇;市场条件下抽水蓄能电站效益综合评价及运营模式研究[D];华北电力大学(河北);2007年
7 常群;支持向量机的核方法及其模型选择[D];哈尔滨工业大学;2007年
8 朱燕飞;锌钡白回转窑煅烧过程智能建模研究[D];华南理工大学;2005年
9 田英杰;支持向量回归机及其应用研究[D];中国农业大学;2005年
10 燕忠;基于蚁群优化算法的若干问题的研究[D];东南大学;2005年
中国硕士学位论文全文数据库 前10条
1 江锋;支持向量机在分类及人脸检测应用中的研究[D];南京理工大学;2003年
2 刘艳伟;支持向量机方法在感潮河段洪峰水位预报中的应用[D];浙江大学;2010年
3 杨镭;支持向量机算法设计及在高分辨雷达目标识别中的应用[D];国防科学技术大学;2010年
4 童振;基于支持向量机的电解液成分预测[D];东北大学;2008年
5 李靖;基于支持向量机的基因表达数据降维方法的研究[D];苏州大学;2011年
6 王永辉;基于Gabor小波变换与支持向量机的人脸识别研究[D];大连理工大学;2006年
7 聂小芳;模糊粗糙集与支持向量机在煤与瓦斯突出预测中的应用研究[D];辽宁工程技术大学;2009年
8 鄢常亮;基于支持向量机的高炉向凉向热炉况预测研究[D];内蒙古科技大学;2010年
9 韩叙东;基于支持向量机的水电故障分类器的设计与实现[D];东北大学;2008年
10 冯杰;慢时变对象的支持向量机建模与在线校正方法研究[D];东北大学;2009年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026