收藏本站
《南京航空航天大学》 2009年
收藏 | 手机打开
二维码
手机客户端打开本文

基于广泛内核的CVM算法研究及参数C的选择

王奇安  
【摘要】:支持向量机是近年来流行的机器学习方法,建立在结构风险最小化原则的基础上,因此能够较好地处理小样本情况下的学习问题。然而在支持向量机算法的大样本学习应用中,存在着三大必须解决的问题:算法速度问题、支持向量存量问题和算法参数选择问题。目前主流的支持向量机优化方程和训练算法难以同时满足速度快、内存占用少并且支持向量少的要求,主要困难在于支持向量机训练过程中支持向量个数太多。核向量机是支持向量机的一个重要改进,可以极大减少支持向量的个数,但是仍然存在内核限制,泛化能力低等缺陷。所以本文在分析了支持向量机的基本理论和基本性质的基础上,针对核向量机算法的缺点和不足,提出基于广泛内核的核向量机算法和基于核聚类的相对距离比较方法,克服了现存算法存在的缺陷,提高了支持向量机的训练与分类效率。 首先针对最小闭包球问题的内核限制问题,分析了最小闭包球和中心约束闭包球之间的关系;在此基础上,针对最小闭包球问题的二次规划问题,提出新超球的球心和半径的更新方法,从而得到新的基于广泛核的核支持向量机算法;从理论上证明了基于广泛核的核支持向量机算法的收敛性,并给出了该算法的时间复杂度和空间复杂度。 其次针对已有的参数C选择算法缺乏启发性以及选取困难的不足,本文在分析了核聚类算法和距离比较算法的基础之后,提出基于核聚类的相对距离比较方法。该算法利用核聚类算法在特征空间对样本点进行聚类,然后根据每个样本点到聚类中心的距离的比值,得到参数C。本文在理论方面,证明了该算法的收敛性,分析了算法的复杂度,选取的参数提高了核支持向量机算法的泛化能力。 最后,本文在Linux环境下进行实验,从CPU运行时间、核向量集的大小及测试准确率三个方面,分别分析比较核向量机、简单核向量机和基于广泛内核的核向量机三个算法;分别利用交叉验证法、结构风险法和基于核聚类的距离计较方法选择参数C ,然后分析比较算法的预测准确率。实验结果表明,基于广泛内核的核向量机去除了内核的限制,降低了算法的复杂度,并提高了算法的泛化能力;基于核聚类的相对距离计较方法可以选取合适的参数C ,提高算法的性能。
【学位授予单位】:南京航空航天大学
【学位级别】:硕士
【学位授予年份】:2009
【分类号】:TP181

【参考文献】
中国博士学位论文全文数据库 前1条
1 曾志强;支持向量分类机的训练与简化算法研究[D];浙江大学;2007年
中国硕士学位论文全文数据库 前1条
1 何智杰;快速SVM训练算法研究及其高效参数选择方案[D];华南理工大学;2008年
【共引文献】
中国期刊全文数据库 前10条
1 丁雪梅;陈贝贝;;基于标准数据集的异常检测技术综述与实验分析[J];莆田学院学报;2012年02期
2 沈乐平;黄维民;饶天贵;;基于支持向量机的上市公司违规预警模型研究[J];中大管理研究;2008年02期
3 吴娟;范玉妹;王丽;;关于改进的支持向量机的研究[J];攀枝花学院学报;2006年05期
4 孙长银;穆朝絮;李训铭;;一类非线性逆系统的加权最小二乘支持向量机辨识方法[J];中国科学(F辑:信息科学);2009年04期
5 曹树金,杨涛;自动分类在搜索引擎性能优化中的应用[J];情报科学;2004年02期
6 蔡冬松;靖继鹏;;基于最小二乘支持向量机的数据挖掘应用研究[J];情报科学;2005年12期
7 陈涛;谢阳群;;基于支持向量机的外贸企业客户分类方法应用研究[J];情报科学;2006年07期
8 王东波;苏新宁;朱丹浩;年洪东;;基于支持向量机的医学期刊文章自动分类研究[J];情报理论与实践;2011年04期
9 夏火松;刘建;;基于VSM的文本分类挖掘算法综述[J];情报探索;2010年09期
10 于承敏;凌海云;郑丽萍;;数字图书馆中基于内容的图像检索研究[J];情报探索;2011年04期
中国重要会议论文全文数据库 前10条
1 宋海鹰;桂卫华;阳春华;;基于核偏最小二乘的简约最小二乘支持向量机及其应用研究[A];第二十六届中国控制会议论文集[C];2007年
2 宋海鹰;桂卫华;阳春华;;基于最小二乘支持向量机的Hammerstein-Wiener模型辨识[A];第二十六届中国控制会议论文集[C];2007年
3 ;Inverse System Control of Nonlinear Systems Using LS-SVM[A];第二十六届中国控制会议论文集[C];2007年
4 ;A Novel Proximal Support Vector Machine and Its Application in Radar Target Recognition[A];第二十六届中国控制会议论文集[C];2007年
5 ;A CDMA Signal Receiver Based on LS-SVM[A];第二十六届中国控制会议论文集[C];2007年
6 顾小军;杨世锡;钱苏翔;;基于支持向量机的旋转机械多类故障识别研究[A];第二十六届中国控制会议论文集[C];2007年
7 吕蓬;柳亦兵;马强;魏于凡;;支持向量机在齿轮智能故障诊断中的应用研究[A];第二十六届中国控制会议论文集[C];2007年
8 姜明辉;袁绪川;;基于GA优化的个人信用评估SVM模型[A];第二十六届中国控制会议论文集[C];2007年
9 ;LS-SVM Based Stable Generalized Predictive Control[A];第二十七届中国控制会议论文集[C];2008年
10 阎纲;梁昔明;龙祖强;李翔;;一种新的提前一步预测控制算法[A];第二十七届中国控制会议论文集[C];2008年
中国博士学位论文全文数据库 前10条
1 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
2 母丽华;煤矿安全预警系统的方法研究[D];哈尔滨工程大学;2010年
3 王龙金;零/低航速减摇鳍升力模型及系统控制策略研究[D];哈尔滨工程大学;2009年
4 朱广平;混响干扰中的信号检测技术研究[D];哈尔滨工程大学;2009年
5 孔凡芝;引线键合视觉检测关键技术研究[D];哈尔滨工程大学;2009年
6 杨宁;计算机辅助卷烟配方设计关键技术研究[D];中国海洋大学;2010年
7 郑大腾;柔性坐标测量机空间误差模型及最佳测量区研究[D];合肥工业大学;2010年
8 李书艳;单点氨基酸多态性与疾病相关关系的预测及其机制研究[D];兰州大学;2010年
9 张明;电能质量扰动相关问题研究[D];华中科技大学;2010年
10 王晓明;基于统计学习的模式识别几个问题及其应用研究[D];江南大学;2010年
中国硕士学位论文全文数据库 前10条
1 曾传华;基于颜色和纹理特征的竹条分级方法研究[D];华中农业大学;2010年
2 展慧;基于多源信息融合技术的板栗分级检测方法研究[D];华中农业大学;2010年
3 杜二玲;拟概率空间上等均值噪声下统计学习理论的理论基础[D];河北大学;2007年
4 李金华;基于SVM的多类文本分类研究[D];山东科技大学;2010年
5 田文娟;基于支持向量机的人民币序列号识别方法的研究[D];山东科技大学;2010年
6 孟培培;基于3S的土地督察信息系统研究[D];山东科技大学;2010年
7 安文娟;Fisher和支持向量综合分类器[D];辽宁师范大学;2010年
8 姜成玉;基于支持向量机的时间序列预测[D];辽宁师范大学;2010年
9 李海清;支持向量机在金融市场预测中的应用[D];辽宁师范大学;2010年
10 姜念;区间自适应粒子群算法研究及其应用[D];郑州大学;2010年
【二级参考文献】
中国期刊全文数据库 前1条
1 卢增祥,李衍达;交互支持向量机学习算法及其应用[J];清华大学学报(自然科学版);1999年07期
中国博士学位论文全文数据库 前1条
1 姜静清;最小二乘支持向量机算法及应用研究[D];吉林大学;2007年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026