收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

训练支持向量分类机的算法研究

陆爱国  
【摘要】:支持向量机是基于统计学习理论的一种优秀的机器学习方法。它采用结构风险最小化原则,通过核函数技术在一个高维特征空间中构造最优线性决策函数,避免了维数灾难,并能获得全局最优解,具有良好的推广能力。由于其优良的性能,已经被广泛地应用于模式分类、函数逼近和密度估计等问题,成为机器学习领域的热点课题。 用于解决分类问题的支持向量机称为支持向量分类机(SVC),以提高支持向量分类机的训练速度和推广能力、降低其计算复杂度为目的。本文研究了几种训练支持向量分类机的算法,主要内容如下: 1.首先给出了一个重要定理,然后结合序列最小优化(SMO)算法的优缺点,提出一个改进的三变量SVC学习算法,即将标准的支持向量分类机问题分解为一系列含有三个变量的二次规划(QP)子问题,并由提出的定理保证相应的松弛子问题都有解析解,从而使得该方法能够更加精确和快速地逼近最优解。数值试验表明了新方法不仅节省了计算代价,而且还提高了分类精度。 2.依据在每次迭代中选取多个变量同时优化可能会减少迭代次数和缩短训练时间的这一想法,提出了一个训练支持向量分类机的四重序列解析优化方法。其优点是每次迭代所求的子问题都有解析解,从而能够快速地逼近最优解。并给出算法的收敛性分析。仿真结果表明改进算法不仅缩短了训练时间,而且计算复杂度较小 3.从支持向量分类机原对偶问题的KKT条件出发,提出了基于约简的二阶Mehrotra型预估校正算法训练支持向量分类机,该方法尽管在初始迭代时大部分样本都参与计算,但是随着迭代的进行,使用约简技术它只保留较少的必要样本,而丢掉越来越多不必要的样本,从而使很少的样本参与计算以达到节约计算代价的目的。数值试验表明新方法是有效的。 4.首先针对求解支持向量分类机的原对偶问题,考虑到内点算法的不足,提出了训练支持向量分类机的非精确不可行内点算法,并分析了该算法的全局收敛性;其次还提出了改进的FR方法来计算方程组的不精确牛顿迭代方向,并在适当条件下证明了改进方法在Wolfe(?)(?)Armijo型线搜索下的全局收敛性。数值结果表明提出算法具有良好的性能。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 陆文聪,陈念贻,叶晨洲,李国正;支持向量机算法和软件ChemSVM介绍[J];计算机与应用化学;2002年06期
2 王延朝;周长银;李小青;;不确定数据的一个支持向量机分类方法[J];佳木斯大学学报(自然科学版);2010年04期
3 李春花;凌贺飞;卢正鼎;;基于支持向量机的自适应图像水印技术[J];计算机研究与发展;2007年08期
4 胡奎;朱成文;;基于支持向量机的雷达信号分类[J];统计与决策;2008年23期
5 赵琨;孔祥纬;田英杰;;带有多面体扰动的半监督v-支持向量分类机[J];中国管理科学;2010年01期
6 原峰山;朱思铭;;变元可分离核函数对非线性支持向量分类机的影响[J];计算机科学;2007年04期
7 徐岩;石丽坤;王明蕙;;基于支持向量机的大学生毕业选择预测研究[J];石家庄学院学报;2008年06期
8 许洪贵;赵琨;田英杰;;鲁棒半监督ν-支持向量分类机[J];系统科学与数学;2010年02期
9 原峰山;朱思铭;;Hilbert空间映射下非线性分类的变元可分离核函数[J];广州航海高等专科学校学报;2007年01期
10 沈巍;钱坤;;支持向量机提取法检测羊绒/羊毛混纺比[J];毛纺科技;2008年05期
11 张贵生;王平;;基于不变性常识的支持向量分类机[J];硅谷;2010年10期
12 原峰山;朱思铭;;基于动态数据的支持向量分类机模型[J];计算机科学;2005年11期
13 杨俊燕;张优云;朱永生;;ε不敏感损失函数支持向量机分类性能研究[J];西安交通大学学报;2007年11期
14 郝继升;;基于LS-SVR的回归曲线建模[J];江西科学;2007年05期
15 陆丽婷;朱嘉钢;;基于SVC和wavelet-transform的图像脉冲噪声自适应新滤波器[J];计算机应用;2009年02期
16 陈勇;熊金志;;一种求ε-不敏感支持向量回归机光滑函数的新方法[J];计算机工程与科学;2010年08期
17 梅振益;杨慧中;;基于疏密部数据划分的多模型软测量[J];江南大学学报(自然科学版);2010年05期
18 陈伟;余旭初;王鹤;;基于支持向量回归的高光谱影像目标探测[J];测绘科学;2010年03期
19 马银晓;姚敏;;支持向量机在植物分类中的应用[J];科技通报;2007年03期
20 徐健;陈光喜;;一种处理较大规模数据分类的支持向量机[J];计算机工程与应用;2007年06期
中国重要会议论文全文数据库 前10条
1 宋普云;沈雪勤;吴清;;一种改进的SMO算法[A];第六届全国计算机应用联合学术会议论文集[C];2002年
2 孙向东;黄日波;;运用SVMs原理预测蛋白质二级结构研究[A];广西微生物学会2003年学术年会论文集[C];2003年
3 赵晶;高隽;张旭东;谢昭;;支持向量机综述[A];全国第十五届计算机科学与技术应用学术会议论文集[C];2003年
4 张国宣;孔锐;施泽生;郭立;;一种新的基于聚类的SVM迭代算法[A];第二届全国信息获取与处理学术会议论文集[C];2004年
5 刘斌;魏贤龙;李卓;;基于支持向量机的Widrow自适应滤波器[A];2006中国控制与决策学术年会论文集[C];2006年
6 彭煊;王炳锡;;支持向量机及其在被动声呐目标识别中的应用[A];第十届全国信号处理学术年会(CCSP-2001)论文集[C];2001年
7 付伟基;王俊;刘丹军;赵峰;;基于最小二乘支持向量机的云量释用预报技术研究[A];第27届中国气象学会年会灾害天气研究与预报分会场论文集[C];2010年
8 梅立泉;丁雪梅;张淑娟;;结构声振数据的相似性分析和预测[A];中国核科学技术进展报告——中国核学会2009年学术年会论文集(第一卷·第6册)[C];2009年
9 顾锦荣;刘华强;孙预前;;遗传算法优化的支持向量机模型在热带气旋强度预报中的应用[A];第七届长三角气象科技论坛论文集[C];2010年
10 荣海娜;张葛祥;张翠芳;;基于支持向量机的非线性系统辨识方法[A];中国自动化学会、中国仪器仪表学会2004年西南三省一市自动化与仪器仪表学术年会论文集[C];2004年
中国博士学位论文全文数据库 前10条
1 陆爱国;训练支持向量分类机的算法研究[D];西安电子科技大学;2011年
2 段会川;高斯核函数支持向量分类机超级参数有效范围研究[D];山东师范大学;2012年
3 孔祥纬;基于支持向量机的我国家电企业创新能力评价指标体系研究[D];北京交通大学;2009年
4 常群;支持向量机的核方法及其模型选择[D];哈尔滨工业大学;2007年
5 李伦波;自然场景下交通标志的检测与分类算法研究[D];哈尔滨工业大学;2008年
6 吴青;基于优化理论的支持向量机学习算法研究[D];西安电子科技大学;2009年
7 田英杰;支持向量回归机及其应用研究[D];中国农业大学;2005年
8 郝文斌;变压器暂态仿真模型及基于支持向量机的变压器保护原理研究[D];西南交通大学;2006年
9 杨志民;模糊支持向量机及其应用研究[D];中国农业大学;2005年
10 唐发明;基于统计学习理论的支持向量机算法研究[D];华中科技大学;2005年
中国硕士学位论文全文数据库 前10条
1 易超群;基于特征分析的支持向量分类机[D];国防科学技术大学;2010年
2 宋文杰;双联支持向量分类机与回归机研究[D];吉林大学;2011年
3 肖羽;基于最小闭包球理论的支持向量分类机算法研究[D];重庆师范大学;2010年
4 肖鹏;基于SVM的选股算法研究[D];哈尔滨工业大学;2007年
5 高泓;基于支持向量机的动态预测方法与实现技术研究[D];大庆石油学院;2009年
6 史杰;面向眉目草图生成的支持向量分类模型[D];天津大学;2007年
7 王海洋;基于SVM的分段贪婪算法研究[D];西安科技大学;2009年
8 郑媛媛;凸壳理论在支持向量分类机中的应用[D];东北电力大学;2009年
9 周丽;用遗传算法选择支持向量机参数的研究[D];云南大学;2010年
10 胡艳国;支持向量机的研究与应用[D];南昌大学;2007年
中国重要报纸全文数据库 前10条
1 李水根;计算机详解配伍与药效关系[N];健康报;2005年
2 上海大学理学院教授、副院长 陆文聪;酷爱化学 孜孜以求[N];中国化工报;2006年
3 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
4 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
5 ;选择合适的数据挖掘算法[N];计算机世界;2007年
6 记者 耿挺;蛋白质功能算出来[N];上海科技报;2007年
7 周颖;王米渠与中医心理学[N];中国中医药报;2006年
8 记者 张云普通讯员 全攀峰 安强强;大庆物探深度域地震资料岩性解释技术获得五大突破[N];中国石油报;2008年
9 本报记者 冯治恩;敢与“雷公”试比高[N];铜川日报;2008年
10 记者 黄基尧;东莞拟配套资助49个国家省科技项目[N];东莞日报;2008年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978