收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

最小二乘支持向量机的若干问题与应用研究

邢永忠  
【摘要】: 支持向量机集成了结构风险最小化、凸二次规划和核函数映射等几项技术,有效地解决了在经典机器学习中出现的“维数灾难”和“局部极小”等传统困难,并在许多领域得到应用。最小二乘支持向量机是支持向量机的一个改进模型,秉承了支持向量机的基本思想,并简化了标准支持向量机的计算复杂性,在控制领域具有很大的应用潜力。本文对最小二乘支持向量机的若干问题进行了较为深入的研究,主要贡献如下: (1)理论上解释了LS-SVM核函数矩阵在某些非正定的情况下也能取得较好学习效果的原因。利用矩阵分块的思想,将LS-SVM的优化求解(分类和回归是等价的)问题转换为一个低阶的对称正定线性系统。并发展了具有更小条件数的预处理共轭梯度算法(Preconditioned Conjugate Gradient, PCG),从而减少LS-SVM学习过程迭代次数,使训练速度得到明显提高。 (2)指出了现有L-P小波核函数的不足:固定了基本小波的频率带宽,无法较好逼近频率丰富的信号。并提出了可调带宽的]Modified L-P小波核函数,由于该核函数通过平移伸缩可以构成平方可积空间上一组完备的基,能逼近复杂的函数,并通过调整带宽因子对突变信号具有逐步精细的描述特性,提高了支持向量机的泛化性能。 (3)为简化计算复杂性,将可调带宽的Modified L-P小波核函数作LS-SVM的核函数,提出了Modified L-P小波核最小二乘支持向量机。为支持向量机的模型选择提供了新的核函数。实验结果表明,新的Modified L-P小波核函数最小二乘支持向量机的建模和逼近能力优于基于L-P小波核函数或高斯核函数最小二乘支持向量机。 (4)分析了Suykens提出的加权LS-SVM对存在强野点的稀疏数据进行回归建模的不足和避免“过度拟合”,并利用具有全局特性的柯西分布概率密度函数,提出了基于柯西分布加权方法。由于考虑了生产过程中样本数据的稀疏性并存在噪声和野点,因此与原加权方法相比,新的加权方法更具有强的抗干扰性。 (5)指出了加权的Modified L-P小波最小二乘支持向量机是离线式批量算法,当新样本序贯加入模型时,训练将这一时刻前所有数据都纳入计算样本,并重复这一过程,计算复杂性高,不适合在线学习的问题。为此,利用块矩阵理论,提出了新的加权迭代格式,避免了序贯加入新样本和剔除过时样本需重新矩阵求逆的运算,并根据拟合误差的大小,赋予样本不同的权值,使加权迭代Modified L-P小波最小二乘支持向量机具有了一定的稀疏性和较好的抗噪声干扰性,并拓展了它在实际中的应用范围。 (6)指出了常用的“一对一”和“一对多”多分类算法的不足,提出了基于LS-SVM的多类分类策略的故障诊断方法。该方法充分利用了神经网络并行输出编码的方式,将多类别分类问题转变为数量较少的二类别LS-SVM分类器,识别过程仅涉及到各个判别函数的计算及最后的编码,使训练计算量、测试计算量大大减少,识别时间低于“一对一”或“一对多”的SVM多类识别方法。为支持向量机在故障诊断中的应用提供了一条新的有效途径。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 文明;方凯;汪方斌;丁俊香;;一种基于SVM的多类判别算法[J];工业仪表与自动化装置;2006年06期
2 王晓锋;秦玉平;;基于二叉树的SVM多类分类算法研究[J];湖南工程学院学报(自然科学版);2008年03期
3 焦艳华;张雪萍;林楠;;支持向量机在烤烟烟叶自动分级中的应用[J];微计算机信息;2009年22期
4 徐志洁;;一种处理多类分类问题的强化支持向量机方法[J];计算机工程与应用;2009年26期
5 张永;迟忠先;米滢;;一类直接构造的模糊多类支持向量分类器[J];计算机工程与应用;2008年08期
6 余辉;赵晖;;支持向量机多类分类算法新研究[J];计算机工程与应用;2008年07期
7 李昆仑,黄厚宽,田盛丰,刘振鹏,刘志强;模糊多类支持向量机及其在入侵检测中的应用[J];计算机学报;2005年02期
8 厉剑;杨玮龙;李攀;;基于DSP并行结构的二叉树SVM多分类器[J];舰船电子工程;2007年01期
9 阳庆;秦志远;周丽雅;杨安洪;;近似支持向量机高光谱图像分类方法研究[J];海洋测绘;2009年05期
10 孔波;郑喜英;;支持向量机多类分类方法研究[J];河南教育学院学报(自然科学版);2010年02期
11 吴杉;于亚征;;基于正态层次支持向量机的多类分类研究[J];焦作大学学报;2008年01期
12 肖荣;李金凤;覃俊;;一种改进的一对一多类支持向量机[J];软件导刊;2010年10期
13 孟媛媛,刘希玉;一种新的基于二叉树的SVM多类分类方法[J];计算机应用;2005年11期
14 李万庆;李海涛;孟文清;;基于支持向量机的降水量混沌时间序列预测[J];统计与决策;2007年19期
15 赵鹏;;基于支持向量机的文本分类方法研究[J];齐齐哈尔大学学报;2008年01期
16 王峰;;支持向量机超声缺陷识别法的研究[J];微计算机信息;2008年18期
17 刘涵,刘丁,李琦;基于支持向量机的混沌时间序列非线性预测[J];系统工程理论与实践;2005年09期
18 杨奎河;单甘霖;赵玲玲;;基于支持向量机的旋转机械故障诊断研究[J];微计算机信息;2006年34期
19 赵玲玲;杨奎河;任晓鹏;单甘霖;;支持向量机在机械故障诊断中的应用[J];河北工业科技;2007年01期
20 赵有星;李琳;;基于支持向量机的多类分类算法研究[J];科技信息(科学教研);2007年29期
中国重要会议论文全文数据库 前10条
1 闫晓飞;陈良臣;孙功星;;支持向量机多类分类算法的研究[A];第13届全国计算机、网络在现代科学技术领域的应用学术会议论文集[C];2007年
2 高华东;潘东旭;魏建文;樊绍峰;;混沌理论与支持向量机相结合的侧移预测模型[A];第三届全国岩土与工程学术大会论文集[C];2009年
3 林杰华;张斌;李冬森;宋华茂;余志强;王浩;;支持向量机在电力客户信用评级中的应用[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
4 蒋铁军;张怀强;李积源;;多变量系统预测的支持向量机方法研究[A];管理科学与系统科学研究新进展——第7届全国青年管理科学与系统科学学术会议论文集[C];2003年
5 曹巍;赵英凯;高世伟;;基于模糊核聚类的多类支持向量机[A];2009中国过程系统工程年会暨中国mes年会论文集[C];2009年
6 黄淑云;孙兴玉;梁汝萍;邱建丁;;基于小波支持向量机预测蛋白质亚细胞定位研究[A];第十一届全国计算(机)化学学术会议论文摘要集[C];2011年
7 谢湘;匡镜明;;支持向量机在语音识别中的应用研究[A];现代通信理论与信号处理进展——2003年通信理论与信号处理年会论文集[C];2003年
8 程丽丽;张健沛;杨静;马骏;;一种改进的层次SVM多类分类方法[A];第三届全国信息检索与内容安全学术会议论文集[C];2007年
9 涂冬成;薛龙;刘木华;赵进辉;沈杰;吁芳;;基于支持向量机的鹅肉肉色客观评定研究[A];中国农业工程学会电气信息与自动化专业委员会、中国电机工程学会农村电气化分会科技与教育专委会2010年学术年会论文摘要[C];2010年
10 杨凌;刘玉树;;基于支持向量机的坦克识别算法[A];第三届全国数字成像技术及相关材料发展与应用学术研讨会论文摘要集[C];2004年
中国博士学位论文全文数据库 前10条
1 邢永忠;最小二乘支持向量机的若干问题与应用研究[D];南京理工大学;2009年
2 陈祖云;煤与瓦斯突出前兆的非线性预测及支持向量机识别研究[D];中国矿业大学;2009年
3 鲁淑霞;基于支持向量机的多光谱数据分类[D];河北大学;2007年
4 王冬丽;基于可扩展的支持向量机分类算法及在信用评级中的应用[D];东华大学;2011年
5 杜小芳;基于CPFR的农产品采购模型研究[D];华中科技大学;2005年
6 刘育明;动态过程数据的多变量统计监控方法研究[D];浙江大学;2006年
7 栾锋;支持向量机(SVM)和径向基神经网络(RBFNN)方法在化学、环境化学和药物化学中的应用研究[D];兰州大学;2006年
8 孙薇;市场条件下抽水蓄能电站效益综合评价及运营模式研究[D];华北电力大学(河北);2007年
9 常群;支持向量机的核方法及其模型选择[D];哈尔滨工业大学;2007年
10 朱燕飞;锌钡白回转窑煅烧过程智能建模研究[D];华南理工大学;2005年
中国硕士学位论文全文数据库 前10条
1 陈玲玲;基于支持向量机的下肢肌电信号模式识别的研究[D];河北工业大学;2006年
2 朱健康;基于支持向量机的音乐自动分类[D];天津大学;2010年
3 张永新;基于支持向量机和遗传算法相结合的模拟电路故障诊断方法研究[D];东北大学;2009年
4 王鹏;基于金氏脉学的脉诊仪关键技术研究[D];山东大学;2005年
5 刘柳;基于支持向量机和模糊后处理的遥感图像分类研究[D];华中科技大学;2010年
6 刘艳伟;支持向量机方法在感潮河段洪峰水位预报中的应用[D];浙江大学;2010年
7 杨镭;支持向量机算法设计及在高分辨雷达目标识别中的应用[D];国防科学技术大学;2010年
8 童振;基于支持向量机的电解液成分预测[D];东北大学;2008年
9 刘坐乾;基于改进的支持向量机的模拟电路故障诊断方法研究[D];东北大学;2009年
10 聂小芳;模糊粗糙集与支持向量机在煤与瓦斯突出预测中的应用研究[D];辽宁工程技术大学;2009年
中国重要报纸全文数据库 前10条
1 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
2 李水根;计算机详解配伍与药效关系[N];健康报;2005年
3 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
4 YMG记者 李仁 通讯员 曲华明 孙运智;我市九项目进入省“盘子”[N];烟台日报;2010年
5 上海大学理学院教授、副院长 陆文聪;酷爱化学 孜孜以求[N];中国化工报;2006年
6 ;选择合适的数据挖掘算法[N];计算机世界;2007年
7 记者 耿挺;蛋白质功能算出来[N];上海科技报;2007年
8 周颖;王米渠与中医心理学[N];中国中医药报;2006年
9 记者 张云普通讯员 全攀峰 安强强;大庆物探深度域地震资料岩性解释技术获得五大突破[N];中国石油报;2008年
10 本报记者 冯治恩;敢与“雷公”试比高[N];铜川日报;2008年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978