收藏本站
《浙江大学》 2010年
收藏 | 手机打开
二维码
手机客户端打开本文

支持向量机加速方法及应用研究

曹葵康  
【摘要】:支持向量机(Support Vector Machines, SVMs)是基于统计学习理论以及结构风险最小化原则的新一代通用机器学习方法。它在解决小样本、非线性及高维模式分类及函数回归问题中表现出许多独特优势,是克服过学习、局部最优及维数灾难等传统困难的有效方法。由于其性能出色,支持向量机自诞生以来受到研究者越来越多的关注并已成为机器学习领域中一个新的研究热点。然而支持向量机计算复杂,效率较低,这在一定程度上制约了它的在产业界的推广和应用。本文从几个不同角度研究了提高其效率的方法,主要的研究内容及成果概述如下: 1)增量及减量(在线)训练算法 针对现有支持向量回归机(Support Vector Regression, SVR)在线训练算法每次只能处理一个样本而效率较低的问题提出一种基于多样本的支持向量回归机在线训练算法。算法以拉格朗日乘数法和卡罗需-库恩-塔克(KKT)条件为基础,逐步改变样本的系数,并在每次迭代中保持原来的样本满足KKT条件,最终使所有训练样本满足KKT条件。实验表明,本算法可以有效地实现SVR模型的精确在线更新,其运算效率优于针对单样本的支持向量回归机在线算法。在一次增加或减少的样本较少时,其训练速度远优于批量训练算法,因而可作为一种有效的在线训练算法。本算法可以高效地动态更新SVR模型,尤其适用于时变时间序列的预测以及时变系统的辨识等应用。 2)SVM硬件实现 针对嵌入式应用环境中灵活性和实时性的要求,本文提出一种基于流行的序贯最小优化(Sequential Minimal Optimization, SMO)算法的并行可扩展数字硬件结构以高效训练SVM分类器,并且基于FPGA平台验证了其各方面特性。由于SMO算法最终利用解析方法求解QP问题,从而可以有效避免数值稳定性问题。在深入分析SMO算法的基础上,我们提取出其中的并行性并将其映射至并行硬件结构。实验表明,本SVM硬件可以基于低成本的定点运算单元有效地处理SVM训练问题,并且具有良好可伸缩性。基于本SVM硬件结构,可以方便地在性能和资源消耗之间进行权衡折中以满足不同应用的要求。本SVM硬件方案克服了现有方案缺乏灵活性的缺点,因而更适合嵌入式环境中的应用。此外,为了给SVM相关算法的硬件实现提供参考,简化硬件架构的设计以及提高设计的可重用性等,本文还提出一种基于当前流行的映射-归约(MapReduce)并行计算模型的SVM硬件实现方法。我们以SVM训练和分类算法为例说明基于这一方法可以非常容易且有效地将相关算法映射至并行可扩展硬件结构。 3)在光刻热点检测中的应用 针对SVM在集成电路版图光刻热点检测(lithography hotspot)中的应用,提出一种在具体应用中提高SVM效率的方法。该方法首先利用离散余弦变换提取版图样本的频域特征,然后利用多目标遗传算法进行特征选择以减少用作热点检测的特征的数目,从而提高热点检测的效率。此外,SVM参数的选择也被集成到这一过程中同时进行以获得尽可能高的检测精度。实验表明,本检测方法在不影响检测精度的前提下,效率明显优于原先直接以图像像素为特征的检测方法。本热点检测方法不依赖于具体的工艺参数或可能使用的分辨率增强技术(RET),适合集成到集成电路的物理设计流程中对光刻热点进行快速预检。
【学位授予单位】:浙江大学
【学位级别】:博士
【学位授予年份】:2010
【分类号】:TP181

知网文化
【参考文献】
中国期刊全文数据库 前2条
1 李辉,管晓宏,昝鑫,韩崇昭;基于支持向量机的网络入侵检测[J];计算机研究与发展;2003年06期
2 叶美盈,汪晓东,张浩然;基于在线最小二乘支持向量机回归的混沌时间序列预测[J];物理学报;2005年06期
【共引文献】
中国期刊全文数据库 前10条
1 杨绪兵,韩自存;ε不敏感的核Adaline算法及其在图像去噪中的应用[J];安徽工程科技学院学报(自然科学版);2003年04期
2 陶秀凤,唐诗忠,周鸣争;基于支持向量机的软测量模型及应用[J];安徽工程科技学院学报(自然科学版);2004年02期
3 许高程;张文君;王卫红;;支持向量机技术在遥感影像滑坡体提取中的应用[J];安徽农业科学;2009年06期
4 郭立萍;唐家奎;米素娟;张成雯;赵理君;;基于支持向量机遥感图像融合分类方法研究进展[J];安徽农业科学;2010年17期
5 管翠萍;;药物靶标G蛋白偶联受体的识别预测[J];安徽农业科学;2010年24期
6 刘婷婷;;基于支持向量机的水稻纹枯病识别研究[J];安徽农业科学;2011年28期
7 陈文;基于决策树的入侵检测的实现[J];安徽技术师范学院学报;2005年05期
8 王尔丹;人群运动与密度估计技术研究[J];安全;2005年03期
9 冯学军;;最小二乘支持向量机的研究与应用[J];安庆师范学院学报(自然科学版);2009年01期
10 彭莉芬;陈俊生;胡学钢;;基于粗糙集决策树算法的研究[J];安庆师范学院学报(自然科学版);2012年01期
中国重要会议论文全文数据库 前10条
1 ;An effective procedure exploiting unlabeled data to build monitoring system[A];中国科学院地质与地球物理研究所第11届(2011年度)学术年会论文集(下)[C];2012年
2 宋海鹰;桂卫华;阳春华;;基于核偏最小二乘的简约最小二乘支持向量机及其应用研究[A];第二十六届中国控制会议论文集[C];2007年
3 宋海鹰;桂卫华;阳春华;;基于最小二乘支持向量机的Hammerstein-Wiener模型辨识[A];第二十六届中国控制会议论文集[C];2007年
4 ;Inverse System Control of Nonlinear Systems Using LS-SVM[A];第二十六届中国控制会议论文集[C];2007年
5 ;A Novel Kernel PCA Support Vector Machine Algorithm with Feature Transition Function[A];第二十六届中国控制会议论文集[C];2007年
6 ;A Novel Proximal Support Vector Machine and Its Application in Radar Target Recognition[A];第二十六届中国控制会议论文集[C];2007年
7 ;A CDMA Signal Receiver Based on LS-SVM[A];第二十六届中国控制会议论文集[C];2007年
8 吕蓬;柳亦兵;马强;魏于凡;;支持向量机在齿轮智能故障诊断中的应用研究[A];第二十六届中国控制会议论文集[C];2007年
9 ;LS-SVM Based Stable Generalized Predictive Control[A];第二十七届中国控制会议论文集[C];2008年
10 阎纲;梁昔明;龙祖强;李翔;;一种新的提前一步预测控制算法[A];第二十七届中国控制会议论文集[C];2008年
中国博士学位论文全文数据库 前10条
1 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
2 殷志伟;基于统计学习理论的分类方法研究[D];哈尔滨工程大学;2009年
3 孔凡芝;引线键合视觉检测关键技术研究[D];哈尔滨工程大学;2009年
4 李晚龙;六自由度Stewart平台分散智能控制研究[D];哈尔滨工程大学;2010年
5 郑大腾;柔性坐标测量机空间误差模型及最佳测量区研究[D];合肥工业大学;2010年
6 李书艳;单点氨基酸多态性与疾病相关关系的预测及其机制研究[D];兰州大学;2010年
7 全惠敏;电能质量相关信号的S变换检测算法及应用研究[D];湖南大学;2010年
8 柏坚;非线性数学地质模型研究及在滇东南金矿成矿预测中的应用[D];中国地质大学(北京);2010年
9 张明;电能质量扰动相关问题研究[D];华中科技大学;2010年
10 姚志明;基于步态触觉信息的身份识别研究[D];中国科学技术大学;2010年
中国硕士学位论文全文数据库 前10条
1 曾传华;基于颜色和纹理特征的竹条分级方法研究[D];华中农业大学;2010年
2 朱杰;一种基于聚类的支持向量机反问题求解算法[D];河北大学;2007年
3 李金华;基于SVM的多类文本分类研究[D];山东科技大学;2010年
4 刘志强;基于数据挖掘的客户行为分析和预测研究[D];山东科技大学;2010年
5 田文娟;基于支持向量机的人民币序列号识别方法的研究[D];山东科技大学;2010年
6 孟培培;基于3S的土地督察信息系统研究[D];山东科技大学;2010年
7 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
8 刘维会;不平衡数据集上支持向量机算法研究[D];山东科技大学;2010年
9 韩晓峰;高斯混合模型及在探测网络社区结构中的应用[D];山东科技大学;2010年
10 安文娟;Fisher和支持向量综合分类器[D];辽宁师范大学;2010年
【二级参考文献】
中国期刊全文数据库 前5条
1 叶美盈,汪晓东;混沌光学系统辨识的支持向量机方法[J];光学学报;2004年07期
2 关新平,唐英干,范正平,王益群;基于神经网络的混沌系统鲁棒自适应同步[J];物理学报;2001年11期
3 谭文,王耀南,刘祖润,周少武;非线性系统混沌运动的神经网络控制[J];物理学报;2002年11期
4 刘丁,任海鹏,孔志强;基于径向基函数神经网络的未知模型混沌系统控制[J];物理学报;2003年03期
5 叶美盈;基于最小二乘支持向量机建模的混沌系统控制[J];物理学报;2005年01期
【相似文献】
中国期刊全文数据库 前10条
1 田盛丰,黄厚宽;基于支持向量机的数据库学习算法[J];计算机研究与发展;2000年01期
2 张铃;支持向量机理论与基于规划的神经网络学习算法[J];计算机学报;2001年02期
3 阎辉,张学工,李衍达;支持向量机与最小二乘法的关系研究[J];清华大学学报(自然科学版);2001年09期
4 朱国强,刘士荣,俞金寿;支持向量机及其在函数逼近中的应用[J];华东理工大学学报;2002年05期
5 侯风雷,王炳锡;基于支持向量机的说话人辨认研究[J];通信学报;2002年06期
6 马永军,方凯,刘暾东,方廷健;基于支持向量机和方差的管道内表面粗糙度等级识别[J];信息与控制;2002年05期
7 吴飞,庄越挺,潘云鹤;基于增量学习支持向量机的音频例子识别与检索[J];计算机研究与发展;2003年07期
8 孙延风,梁艳春;支持向量机的数据依赖型核函数改进算法[J];吉林大学学报(理学版);2003年03期
9 朱永生,张优云;支持向量机分类器中几个问题的研究[J];计算机工程与应用;2003年13期
10 朱家元,吴伟,张恒喜,董彦非;一种新型的多元分类支持向量机[J];计算机工程;2003年17期
中国重要会议论文全文数据库 前10条
1 林杰华;张斌;李冬森;宋华茂;余志强;王浩;;支持向量机在电力客户信用评级中的应用[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
2 蒋铁军;张怀强;李积源;;多变量系统预测的支持向量机方法研究[A];管理科学与系统科学研究新进展——第7届全国青年管理科学与系统科学学术会议论文集[C];2003年
3 黄淑云;孙兴玉;梁汝萍;邱建丁;;基于小波支持向量机预测蛋白质亚细胞定位研究[A];第十一届全国计算(机)化学学术会议论文摘要集[C];2011年
4 谢湘;匡镜明;;支持向量机在语音识别中的应用研究[A];现代通信理论与信号处理进展——2003年通信理论与信号处理年会论文集[C];2003年
5 涂冬成;薛龙;刘木华;赵进辉;沈杰;吁芳;;基于支持向量机的鹅肉肉色客观评定研究[A];中国农业工程学会电气信息与自动化专业委员会、中国电机工程学会农村电气化分会科技与教育专委会2010年学术年会论文摘要[C];2010年
6 杨凌;刘玉树;;基于支持向量机的坦克识别算法[A];第三届全国数字成像技术及相关材料发展与应用学术研讨会论文摘要集[C];2004年
7 师旭超;巴松涛;;基于支持向量机方法的深基坑变形预测[A];科技、工程与经济社会协调发展——河南省第四届青年学术年会论文集(上册)[C];2004年
8 张军;;支持向量机方法在地下水位干扰排除中的初步应用[A];2007年地震流体学术研讨会论文摘要集[C];2007年
9 许建生;盛立东;;基于改进的支持向量机和BP神经网络的识别算法[A];第八届全国汉字识别学术会议论文集[C];2002年
10 荣海娜;张葛祥;张翠芳;;基于支持向量机的非线性系统辨识方法[A];中国自动化学会、中国仪器仪表学会2004年西南三省一市自动化与仪器仪表学术年会论文集[C];2004年
中国重要报纸全文数据库 前10条
1 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
2 李水根;计算机详解配伍与药效关系[N];健康报;2005年
3 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
4 YMG记者 李仁 通讯员 曲华明 孙运智;我市九项目进入省“盘子”[N];烟台日报;2010年
5 上海大学理学院教授、副院长 陆文聪;酷爱化学 孜孜以求[N];中国化工报;2006年
6 ;选择合适的数据挖掘算法[N];计算机世界;2007年
7 周颖;王米渠与中医心理学[N];中国中医药报;2006年
8 记者 张云普通讯员 全攀峰 安强强;大庆物探深度域地震资料岩性解释技术获得五大突破[N];中国石油报;2008年
9 本报记者 冯治恩;敢与“雷公”试比高[N];铜川日报;2008年
10 记者 耿挺;蛋白质功能算出来[N];上海科技报;2007年
中国博士学位论文全文数据库 前10条
1 刘叶青;原始空间中支持向量机若干问题的研究[D];西安电子科技大学;2009年
2 常甜甜;支持向量机学习算法若干问题的研究[D];西安电子科技大学;2010年
3 胡运红;支持向量机的若干算法研究[D];山东科技大学;2011年
4 杜小芳;基于CPFR的农产品采购模型研究[D];华中科技大学;2005年
5 刘育明;动态过程数据的多变量统计监控方法研究[D];浙江大学;2006年
6 栾锋;支持向量机(SVM)和径向基神经网络(RBFNN)方法在化学、环境化学和药物化学中的应用研究[D];兰州大学;2006年
7 孙薇;市场条件下抽水蓄能电站效益综合评价及运营模式研究[D];华北电力大学(河北);2007年
8 常群;支持向量机的核方法及其模型选择[D];哈尔滨工业大学;2007年
9 周喜川;非可信环境下的支持向量机研究[D];浙江大学;2010年
10 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
中国硕士学位论文全文数据库 前10条
1 刘艳伟;支持向量机方法在感潮河段洪峰水位预报中的应用[D];浙江大学;2010年
2 杨镭;支持向量机算法设计及在高分辨雷达目标识别中的应用[D];国防科学技术大学;2010年
3 童振;基于支持向量机的电解液成分预测[D];东北大学;2008年
4 聂小芳;模糊粗糙集与支持向量机在煤与瓦斯突出预测中的应用研究[D];辽宁工程技术大学;2009年
5 鄢常亮;基于支持向量机的高炉向凉向热炉况预测研究[D];内蒙古科技大学;2010年
6 韩叙东;基于支持向量机的水电故障分类器的设计与实现[D];东北大学;2008年
7 冯杰;慢时变对象的支持向量机建模与在线校正方法研究[D];东北大学;2009年
8 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
9 王奇安;基于广泛内核的CVM算法研究及参数C的选择[D];南京航空航天大学;2009年
10 张永新;基于支持向量机和遗传算法相结合的模拟电路故障诊断方法研究[D];东北大学;2009年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026