支持向量机学习算法研究
【摘要】:统计学习理论中的支持向量机方法具有全局最优、结构简单、推广能力强等优点,是目前机器学习和模式识别领域的研究热点之一。但是,支持向量机方法自身的复杂性成为其处理大规模数据时的“瓶颈”问题。本文针对支持向量机的时间复杂度和空间复杂度等问题,分别就支持向量机的快速学习和增量学习问题方面进行了研究。
本文研究工作主要围绕以下几个方面进行:
首先概述了本文研究内容的基础——统计学习理论与支持向量机方法,描述并比较了目前研究与应用较多的几种变形算法,为本文后续的研究方向与内容进行了铺垫。
提出了启发式支持向量机快速学习方法。借鉴主动学习的思想,利用支持向量的几何特点,提出选择支持向量的启发式规则;以启发式规则和内积矩阵分解算法为基础,进行对样本的启发式训练和快速分类。前者尽可能地选择了对分类器最有利的样本进行训练,提高了训练速度和训练精度;后者则在保证了分类精度不损失的前提下,提高了分类速度。
提出一种支持向量机的渐进增量学习算法;研究了支持向量机在处理大规模数据时的增量学习方法和策略,分析了基于分块法和基于KKT条件的代表算法的特点和不足;利用由初始的分类器确定的KKT条件来选择一部分增量样本进行训练,有效地降低了对样本训练所需要的时间,并避免了增量样本分布对初始学习结果的影响,提高了增量学习的精度。
提出了一种基于多支持向量机分类器的并行学习算法。考虑到样本集的分布对分类器性能的影响,通过距离阈值选择一定数量的样本作为必要的反馈,构成循环式的反馈以更新分类器,使各分类器的分类性能在全局最优。
提出了一种改进的Cascade SVMs算法;分析了反馈产生的原因及方式,提出以交叉反馈的方式来缩短Cascade SVMs算法中逐层合并支持向量集产生反馈的时间,在保证分类器的分类性能的同时,缩短了更新分类器需要的时间。
将支持向量机方法应用于虚拟企业伙伴决策问题中。针对常规虚拟企业
|
|
|
|
1 |
刘解放;侯振雨;吴亮;;支持向量机在模式识别和回归模型中的应用[J];河南科技学院学报(自然科学版);2007年04期 |
2 |
谢飞;;支持向量机及其应用研究[J];安徽教育学院学报;2007年03期 |
3 |
谭振宇;杨明;;一种基于支持向量机的角点检测算法[J];电子测试;2011年01期 |
4 |
蒋刚,肖建,郑永康,宋昌林;基于支持向量机的一类水域叶绿素a浓度反演研究[J];计算机应用;2005年10期 |
5 |
洪宇光,李洁冰,王洪玉;SVM在阵列信号定位中的应用[J];计算机仿真;2004年06期 |
6 |
叶俊勇,汪同庆,杨波,彭健;基于支持向量机的人脸检测算法[J];计算机工程;2003年02期 |
7 |
张学工;关于统计学习理论与支持向量机[J];自动化学报;2000年01期 |
8 |
张汝雷;王保民;苏欣平;傅钰;;支持向量机(SVM)在机械故障诊断中的应用研究[J];军事交通学院学报;2009年03期 |
9 |
李卓,刘斌,刘铁男,朱秀华,魏坤;支持向量机及其在油田生产中的应用[J];大庆石油学院学报;2005年03期 |
10 |
姜雪;陶亮;王华彬;武杰;;基于分层并行筛选样本的SVM增量学习算法[J];计算机技术与发展;2007年11期 |
11 |
郭崇慧;孙建涛;陆玉昌;唐焕文;;线性支持向量机优化问题的极大熵方法[J];小型微型计算机系统;2006年07期 |
12 |
胡国胜;支持向量机算法及应用[J];现代电子技术;2005年03期 |
13 |
刘解放;侯振雨;吴亮;;支持向量回归及其在农产品成分分析中的应用[J];广东农业科学;2007年12期 |
14 |
韦抒;;应用支持向量机实现转子故障的模式分类[J];制造业自动化;2009年07期 |
15 |
范燕,吴小俊,惠长坤,刘同明;人脸图象特征抽取和识别的一种混合方法研究[J];华东船舶工业学院学报(自然科学版);2003年02期 |
16 |
胡莹,王昱,丁明跃,周成平;一种改进的SVM相关反馈图像检索方法[J];计算机应用研究;2005年01期 |
17 |
李应红,尉询楷;支持向量机和神经网络的融合发展[J];空军工程大学学报(自然科学版);2005年04期 |
18 |
沈莉芳;方贵盛;;支持向量机及其在草图编辑手势识别中的应用[J];电脑知识与技术(学术交流);2006年23期 |
19 |
陈增照;杨扬;董才林;何秀玲;;支持向量机动态学习方法及其在票据识别中的应用[J];北京科技大学学报;2006年02期 |
20 |
胡哲;郑诚;闵鹏鹏;;支持向量机及其应用研究[J];重庆科技学院学报(自然科学版);2008年02期 |
|