收藏本站
《浙江大学》 2010年
收藏 | 手机打开
二维码
手机客户端打开本文

支持向量机加速方法及应用研究

曹葵康  
【摘要】:支持向量机(Support Vector Machines, SVMs)是基于统计学习理论以及结构风险最小化原则的新一代通用机器学习方法。它在解决小样本、非线性及高维模式分类及函数回归问题中表现出许多独特优势,是克服过学习、局部最优及维数灾难等传统困难的有效方法。由于其性能出色,支持向量机自诞生以来受到研究者越来越多的关注并已成为机器学习领域中一个新的研究热点。然而支持向量机计算复杂,效率较低,这在一定程度上制约了它的在产业界的推广和应用。本文从几个不同角度研究了提高其效率的方法,主要的研究内容及成果概述如下: 1)增量及减量(在线)训练算法 针对现有支持向量回归机(Support Vector Regression, SVR)在线训练算法每次只能处理一个样本而效率较低的问题提出一种基于多样本的支持向量回归机在线训练算法。算法以拉格朗日乘数法和卡罗需-库恩-塔克(KKT)条件为基础,逐步改变样本的系数,并在每次迭代中保持原来的样本满足KKT条件,最终使所有训练样本满足KKT条件。实验表明,本算法可以有效地实现SVR模型的精确在线更新,其运算效率优于针对单样本的支持向量回归机在线算法。在一次增加或减少的样本较少时,其训练速度远优于批量训练算法,因而可作为一种有效的在线训练算法。本算法可以高效地动态更新SVR模型,尤其适用于时变时间序列的预测以及时变系统的辨识等应用。 2)SVM硬件实现 针对嵌入式应用环境中灵活性和实时性的要求,本文提出一种基于流行的序贯最小优化(Sequential Minimal Optimization, SMO)算法的并行可扩展数字硬件结构以高效训练SVM分类器,并且基于FPGA平台验证了其各方面特性。由于SMO算法最终利用解析方法求解QP问题,从而可以有效避免数值稳定性问题。在深入分析SMO算法的基础上,我们提取出其中的并行性并将其映射至并行硬件结构。实验表明,本SVM硬件可以基于低成本的定点运算单元有效地处理SVM训练问题,并且具有良好可伸缩性。基于本SVM硬件结构,可以方便地在性能和资源消耗之间进行权衡折中以满足不同应用的要求。本SVM硬件方案克服了现有方案缺乏灵活性的缺点,因而更适合嵌入式环境中的应用。此外,为了给SVM相关算法的硬件实现提供参考,简化硬件架构的设计以及提高设计的可重用性等,本文还提出一种基于当前流行的映射-归约(MapReduce)并行计算模型的SVM硬件实现方法。我们以SVM训练和分类算法为例说明基于这一方法可以非常容易且有效地将相关算法映射至并行可扩展硬件结构。 3)在光刻热点检测中的应用 针对SVM在集成电路版图光刻热点检测(lithography hotspot)中的应用,提出一种在具体应用中提高SVM效率的方法。该方法首先利用离散余弦变换提取版图样本的频域特征,然后利用多目标遗传算法进行特征选择以减少用作热点检测的特征的数目,从而提高热点检测的效率。此外,SVM参数的选择也被集成到这一过程中同时进行以获得尽可能高的检测精度。实验表明,本检测方法在不影响检测精度的前提下,效率明显优于原先直接以图像像素为特征的检测方法。本热点检测方法不依赖于具体的工艺参数或可能使用的分辨率增强技术(RET),适合集成到集成电路的物理设计流程中对光刻热点进行快速预检。
【学位授予单位】:浙江大学
【学位级别】:博士
【学位授予年份】:2010
【分类号】:TP181

【相似文献】
中国期刊全文数据库 前10条
1 邝神芬;李银;;集群SVM大规模数据分类算法[J];韶关学院学报;2011年08期
2 李争;薛增涛;邓慧琼;;基于支持向量机建模的多变量过程系统预测控制[J];哈尔滨理工大学学报;2011年04期
3 吕卓;谢松云;赵金;赵海涛;;基于SVM及其改进算法的fMRI图像分类性能研究[J];电子设计工程;2011年16期
4 王红伟;董慧;;一种提高SVM分类精度的调制信号识别方法[J];机械与电子;2010年S1期
5 陈葡;谢晓尧;徐洋;;基于词序列核的垃圾邮件过滤[J];武汉大学学报(理学版);2011年05期
6 黄萍;卢谢吉;;基于Gabor-SVM的文字识别方法[J];计算机与数字工程;2011年08期
7 李京;姜卫;张跟鹏;宋世延;;基于电子商务的个性化推荐系统研究[J];计算机与数字工程;2011年07期
8 张野;杨建林;;基于KNN和SVM的中文文本自动分类研究[J];情报科学;2011年09期
9 于海洋;程钢;张育民;卢小平;;基于LiDAR和航空影像的地震灾害倒塌建筑物信息提取[J];国土资源遥感;2011年03期
10 梁爽;张立坡;;熵权核函数支持向量机[J];科技致富向导;2011年20期
中国重要会议论文全文数据库 前10条
1 司爱威;冯辅周;江鹏程;饶国强;王建;;基于可变风险SVM模型的故障识别方法研究[A];第十届全国振动理论及应用学术会议论文集(2011)上册[C];2011年
2 周广春;潘登;;面外均布荷载作用下砌体墙板破坏模式特征值提取的SVM方法[A];工程设计与计算机技术:第十五届全国工程设计计算机应用学术会议论文集[C];2010年
3 邵杰;叶宁;容亦夏;;基于SVM的多波束测深数据滤波[A];第二十九届中国控制会议论文集[C];2010年
4 胡俊杰;周红;周林军;;支持向量机方法研究物质结构水溶解性关系模型[A];中国化学会第27届学术年会第02分会场摘要集[C];2010年
5 王红伟;董慧;;一种提高SVM分类精度的调制信号识别方法[A];2010年西南三省一市自动化与仪器仪表学术年会论文集[C];2010年
6 于湘涛;周峰;张兰;魏超;;基于SVM和田口方法的石英挠性加速度计健壮性设计[A];质量——持续发展的源动力:中国质量学术与创新论坛论文集(下)[C];2010年
7 蔡志理;姜桂艳;丁秋实;;基于SVM和数据融合技术的高速公路AID算法设计[A];第二十七届中国控制会议论文集[C];2008年
8 张睿;陈雪;马建文;;基于递归SVM的高光谱数据特征选择算法研究[A];第八届成像光谱技术与应用研讨会暨交叉学科论坛文集[C];2010年
9 蔡志理;姜桂艳;;多SVM分类器融合技术在高速公路AID中的应用[A];第二十七届中国控制会议论文集[C];2008年
10 ;A Tool Wear Predictive Model Based on SVM[A];Proceedings of 2010 Chinese Control and Decision Conference[C];2010年
中国重要报纸全文数据库 前10条
1 郭涛;利用SVM虚拟化技术实现容灾[N];中国计算机报;2008年
2 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
3 李水根;计算机详解配伍与药效关系[N];健康报;2005年
4 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
5 YMG记者 李仁 通讯员 曲华明 孙运智;我市九项目进入省“盘子”[N];烟台日报;2010年
6 本报记者 韩露;乱军之中智者胜[N];证券时报;2000年
7 上海大学理学院教授、副院长 陆文聪;酷爱化学 孜孜以求[N];中国化工报;2006年
8 ;选择合适的数据挖掘算法[N];计算机世界;2007年
9 周颖;王米渠与中医心理学[N];中国中医药报;2006年
10 ;基于网络层的存储虚拟化是主流[N];中国计算机报;2008年
中国博士学位论文全文数据库 前10条
1 邢永忠;最小二乘支持向量机的若干问题与应用研究[D];南京理工大学;2009年
2 王开义;基于支持向量机的农产品生产关键控制点发现研究[D];北京工业大学;2011年
3 曹葵康;支持向量机加速方法及应用研究[D];浙江大学;2010年
4 渠瑜;基于SVM的高不平衡分类技术研究及其在电信业的应用[D];浙江大学;2010年
5 王冬丽;基于可扩展的支持向量机分类算法及在信用评级中的应用[D];东华大学;2011年
6 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
7 宋国明;基于提升小波及SVM优化的模拟电路智能故障诊断方法研究[D];电子科技大学;2010年
8 常甜甜;支持向量机学习算法若干问题的研究[D];西安电子科技大学;2010年
9 刘叶青;原始空间中支持向量机若干问题的研究[D];西安电子科技大学;2009年
10 韩晓明;基于符号有向图和支持向量机的故障诊断方法的研究[D];太原理工大学;2011年
中国硕士学位论文全文数据库 前10条
1 曾玉祥;盲抽取与SVM方法在地球化学异常下限提取中的应用[D];成都理工大学;2010年
2 张岩;基于SVM算法的文本分类器的实现[D];电子科技大学;2011年
3 蔡磊;SVM及其扩展算法在图像处理中的应用研究[D];西安石油大学;2010年
4 杨飞;基于SVM的煤炭销售分析预测系统的研究[D];太原科技大学;2011年
5 赵祖龙;基于最大间隔聚类算法的SVM反问题研究[D];武汉科技大学;2011年
6 高洁;基于SVM的基因表达谱分析和函数集VC维研究[D];华东师范大学;2011年
7 李玉春;基于RS和SVM的建设工程投标报价研究[D];天津大学;2010年
8 武晓娟;基于支持向量机(SVM)的火电电厂工程造价预测研究[D];华北电力大学(河北);2009年
9 李昊洋;语音识别中基于支持向量机的声学模型分析与实现[D];吉林大学;2010年
10 张华军;支持向量机在FSK解码中的应用研究[D];武汉理工大学;2006年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026