收藏本站
《西安电子科技大学》 2009年
收藏 | 手机打开
二维码
手机客户端打开本文

原始空间中支持向量机若干问题的研究

刘叶青  
【摘要】: 支持向量机成为一种主要的机器学习技术已经有十多年了,然而它的大部分学习算法都是在对偶空间针对其对偶问题提出的。近年来的研究表明,直接在原始空间对支持向量机的原始问题进行求解也是训练支持向量机的一种有效途径。随着人们在原始空间对支持向量机研究的深入,实际应用中碰到的各种问题也开始在原始空间进行求解,如半监督学习问题等。但总体来说,支持向量机在原始空间中的研究还不是很多,也不够完善。因此,本文重点研究了原始空间中支持向量机分类算法的以下四个问题。 1.针对光滑支持向量机中现有的光滑函数逼近精度不高的问题,将正号函数变形并展开为无穷多项式级数,由此得到了一族多项式光滑函数,并证明了这类光滑函数的优良性能,它既能满足任意阶光滑的要求,也能达到任意给定的逼近精度。最后将得到的多项式光滑函数用于求解广义支持向量机。 2.半监督支持向量机利用大量的未标记样本和少量的标记样本共同学习以改进其泛化性能,最后得到一个非凸优化问题,对其优化采取两种策略:组合优化和连续优化。组合优化的具体方法是给出了一个自训练半监督支持向量机分类算法,它的子程序是用前面得到的多项式光滑函数在原始空间求解标准支持向量机。接下来用连续优化的方式给出了一个多项式光滑的半监督支持向量机分类算法,给出的多项式函数有严格的理论基础,并且在样本的高密度区逼近精度高,而当逼近精度低时,则出现在样本的低密度区。 3.直接方法是一类常用的无约束优化技术,简便实用,它和之前用于支持向量机的循环算法不同,不是一次更新w的所有分量,而是每次通过解一个单变量的子问题来更新w的一个分量。本文分别用Hooke and Jeeves模式搜索法、Rosenbrock转轴法和Powell方向加速法求解线性支持向量机,并分析了算法的复杂性。 4.支持向量机采用的线性Hinge损失函数对噪声样本产生的损失没有限制,这是支持向量机对噪声敏感的根本原因。由于特殊的损失函数能有效抑制噪声产生的损失,本文据此给出了一个全新的双曲正切损失函数,并在此基础上给出了相应的健壮支持向量机。 实验表明上述方法和结果在支持向量机算法中均具有较好的学习性能。
【学位授予单位】:西安电子科技大学
【学位级别】:博士
【学位授予年份】:2009
【分类号】:TP181

【引证文献】
中国硕士学位论文全文数据库 前2条
1 叶建敏;数据感知技术在动感地带品牌客户分类中的应用[D];电子科技大学;2011年
2 王飞;文本分类相关算法的研究与实现[D];哈尔滨工程大学;2012年
【参考文献】
中国期刊全文数据库 前10条
1 李凯,黄厚宽;支持向量机增量学习算法研究[J];北方交通大学学报;2003年05期
2 周伟达,张莉,焦李成;支撑矢量机推广能力分析[J];电子学报;2001年05期
3 熊金志;胡金莲;袁华强;胡天明;李广明;;一类光滑支持向量机新函数的研究[J];电子学报;2007年02期
4 方景龙;陈铄;潘志庚;梁荣华;;复杂分类问题支持向量机的简化[J];电子学报;2007年05期
5 李忠伟,张健沛,杨静;基于支持向量机的增量学习算法研究[J];哈尔滨工程大学学报;2005年05期
6 熊金志;袁华强;彭宏;;多项式光滑的支持向量机一般模型研究[J];计算机研究与发展;2008年08期
7 朱美琳;杨佩;;基于支持向量机的多分类增量学习算法[J];计算机工程;2006年17期
8 李红莲,王春花,袁保宗,朱占辉;针对大规模训练集的支持向量机的学习策略[J];计算机学报;2004年05期
9 袁玉波,严杰,徐成贤;多项式光滑的支撑向量机[J];计算机学报;2005年01期
10 孔锐,张冰;一种快速支持向量机增量学习算法[J];控制与决策;2005年10期
中国博士学位论文全文数据库 前2条
1 郑春红;支撑矢量机应用的关键技术研究[D];西安电子科技大学;2005年
2 王磊;支持向量机学习算法的若干问题研究[D];电子科技大学;2007年
【共引文献】
中国期刊全文数据库 前10条
1 谢飞;;支持向量机及其应用研究[J];安徽教育学院学报;2007年03期
2 陈征;;一类系统的二次李雅普诺夫函数存在性的判断[J];安徽电子信息职业技术学院学报;2006年04期
3 孙小军;焦建民;何俊红;;解优化问题的遗传加速信赖域搜索算法[J];安徽大学学报(自然科学版);2008年03期
4 蒋利华;许峰;马昌凤;;非线性互补问题的无导数方法[J];安徽大学学报(自然科学版);2010年02期
5 张家昕;段复建;;一种结合NCP函数的SQP滤子新算法[J];安徽大学学报(自然科学版);2010年05期
6 王信松;张节松;;柯西积分定理的初等证明[J];安徽大学学报(自然科学版);2011年05期
7 杨绪兵,韩自存;ε不敏感的核Adaline算法及其在图像去噪中的应用[J];安徽工程科技学院学报(自然科学版);2003年04期
8 陶秀凤,唐诗忠,周鸣争;基于支持向量机的软测量模型及应用[J];安徽工程科技学院学报(自然科学版);2004年02期
9 高洪;孟舒;查为民;李玲纯;张海涛;;6-3-3并联机构物理样机结构优化[J];安徽工程大学学报;2011年03期
10 许高程;张文君;王卫红;;支持向量机技术在遥感影像滑坡体提取中的应用[J];安徽农业科学;2009年06期
中国重要会议论文全文数据库 前10条
1 ;A review on restoration of seismic wavefields based on regularization and compressive sensing[A];中国科学院地质与地球物理研究所第11届(2011年度)学术年会论文集(下)[C];2012年
2 ;An effective procedure exploiting unlabeled data to build monitoring system[A];中国科学院地质与地球物理研究所第11届(2011年度)学术年会论文集(下)[C];2012年
3 刘钰;韩峰;董楠;陆希成;雷鸣;;爆炸容器安全概率的统计分析方法[A];全国危险物质与安全应急技术研讨会论文集(下)[C];2011年
4 宋海鹰;桂卫华;阳春华;;基于核偏最小二乘的简约最小二乘支持向量机及其应用研究[A];第二十六届中国控制会议论文集[C];2007年
5 宋海鹰;桂卫华;阳春华;;基于最小二乘支持向量机的Hammerstein-Wiener模型辨识[A];第二十六届中国控制会议论文集[C];2007年
6 ;Inverse System Control of Nonlinear Systems Using LS-SVM[A];第二十六届中国控制会议论文集[C];2007年
7 ;A Novel Kernel PCA Support Vector Machine Algorithm with Feature Transition Function[A];第二十六届中国控制会议论文集[C];2007年
8 ;A Novel Proximal Support Vector Machine and Its Application in Radar Target Recognition[A];第二十六届中国控制会议论文集[C];2007年
9 ;A CDMA Signal Receiver Based on LS-SVM[A];第二十六届中国控制会议论文集[C];2007年
10 吕蓬;柳亦兵;马强;魏于凡;;支持向量机在齿轮智能故障诊断中的应用研究[A];第二十六届中国控制会议论文集[C];2007年
中国博士学位论文全文数据库 前10条
1 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
2 谭佳琳;粒子群优化算法研究及其在海底地形辅助导航中的应用[D];哈尔滨工程大学;2010年
3 殷志伟;基于统计学习理论的分类方法研究[D];哈尔滨工程大学;2009年
4 孔凡芝;引线键合视觉检测关键技术研究[D];哈尔滨工程大学;2009年
5 陈得宇;基于MAS的智能电压控制系统研究[D];哈尔滨工程大学;2010年
6 刘冬雁;川西高原甘孜黄土记录的早更新世晚期以来的古气候变化[D];中国海洋大学;2009年
7 王敏;分布式电源的概率建模及其对电力系统的影响[D];合肥工业大学;2010年
8 郑大腾;柔性坐标测量机空间误差模型及最佳测量区研究[D];合肥工业大学;2010年
9 李书艳;单点氨基酸多态性与疾病相关关系的预测及其机制研究[D];兰州大学;2010年
10 全惠敏;电能质量相关信号的S变换检测算法及应用研究[D];湖南大学;2010年
中国硕士学位论文全文数据库 前10条
1 曾传华;基于颜色和纹理特征的竹条分级方法研究[D];华中农业大学;2010年
2 朱杰;一种基于聚类的支持向量机反问题求解算法[D];河北大学;2007年
3 张小亮;非线性规划的信赖域算法[D];河南理工大学;2010年
4 赫英毅;毫米波段基于TE_(21)模差网络设计[D];中国工程物理研究院;2009年
5 师晶;一类三次代数曲线的插值和逼近[D];南昌航空大学;2010年
6 李金华;基于SVM的多类文本分类研究[D];山东科技大学;2010年
7 田文娟;基于支持向量机的人民币序列号识别方法的研究[D];山东科技大学;2010年
8 徐芳芳;优化问题的PVD算法研究[D];山东科技大学;2010年
9 孟培培;基于3S的土地督察信息系统研究[D];山东科技大学;2010年
10 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
【同被引文献】
中国期刊全文数据库 前10条
1 宋昊苏;李宁;张伟;;VSM模型在文档结构识别中的应用[J];北京信息科技大学学报(自然科学版);2011年06期
2 赵耀红;;基于向量空间模型的信息检索系统的研究与实现[J];长春大学学报;2009年08期
3 马甲林;张桂珠;刘金岭;;中英文文本分类系统异同因素的探讨[J];电脑学习;2011年02期
4 李慧,闻豪;基于数据仓库的OLAP技术的研究[J];电脑知识与技术;2005年02期
5 李蓉 ,叶世伟 ,史忠植;SVM-KNN分类器——一种提高SVM分类精度的新方法[J];电子学报;2002年05期
6 王克华;牛慧;张亚南;张晓萍;;一种参数自适应调整和边界约束的粒子群算法[J];电子设计工程;2011年21期
7 梁宏胜;徐建民;成岳鹏;;一种改进的朴素贝叶斯文本分类方法[J];河北大学学报(自然科学版);2007年03期
8 单丽莉;刘秉权;孙承杰;;文本分类中特征选择方法的比较与改进[J];哈尔滨工业大学学报;2011年S1期
9 王建勇,单松巍,雷鸣,谢正茂,李晓明;海量Web搜索引擎系统中用户行为的分布特征及其启示[J];中国科学E辑:技术科学;2001年04期
10 尚文倩;黄厚宽;刘玉玲;林永民;瞿有利;董红斌;;文本分类中基于基尼指数的特征选择算法研究[J];计算机研究与发展;2006年10期
中国博士学位论文全文数据库 前2条
1 刘峰;贝叶斯网络结构学习算法研究[D];北京邮电大学;2008年
2 王博;文本分类中特征选择技术的研究[D];国防科学技术大学;2009年
中国硕士学位论文全文数据库 前10条
1 段江丽;基于SVM的文本分类系统中特征选择与权重计算算法的研究[D];太原理工大学;2011年
2 胡改蝶;中文文本分类中特征选择方法的应用与研究[D];太原理工大学;2011年
3 邓彩凤;中文文本分类中互信息特征选择方法研究[D];西南大学;2011年
4 费坤华;Web数据挖掘机的服务端设计与实现[D];电子科技大学;2005年
5 张慧萍;数据挖掘技术与应用研究[D];武汉科技大学;2005年
6 王振环;基于数据挖掘技术的电信领域客户流失预测系统的研究与实现[D];吉林大学;2006年
7 韩晓阳;“动感地带”市场发展及创新研究[D];电子科技大学;2006年
8 蔡磊;“动感地带”在重庆市校园中的品牌形象研究[D];西南大学;2006年
9 齐先锋;数据挖掘在电信企业客户细分中的应用研究[D];江西理工大学;2007年
10 陈大庆;数据仓库和数据挖掘技术在电信领域的应用研究[D];上海交通大学;2007年
【二级参考文献】
中国期刊全文数据库 前10条
1 李凯,黄厚宽;支持向量机增量学习算法研究[J];北方交通大学学报;2003年05期
2 刘万春,罗双华,朱玉文,谢世斌;基于聚类分析和支持向量机的布匹瑕疵分类方法[J];北京理工大学学报;2004年08期
3 董春曦,杨绍全,饶鲜,汤建龙;支持向量机推广能力估计方法比较[J];电路与系统学报;2004年04期
4 张亮;郭桂蓉;庄钊文;何松华;马莉波;;雷达目标高分辨距离像数据预处理方法研究[J];电子学报;1998年06期
5 张鸿宾,孙广煜;近邻法参考样本集的最优选择[J];电子学报;2000年11期
6 焦李成,张莉,周伟达;支撑矢量预选取的中心距离比值法[J];电子学报;2001年03期
7 周伟达,张莉,焦李成;支撑矢量机推广能力分析[J];电子学报;2001年05期
8 王国胜,钟义信;支持向量机的若干新进展[J];电子学报;2001年10期
9 高学,金连文,尹俊勋,黄建成;一种基于支持向量机的手写汉字识别方法[J];电子学报;2002年05期
10 李蓉 ,叶世伟 ,史忠植;SVM-KNN分类器——一种提高SVM分类精度的新方法[J];电子学报;2002年05期
中国博士学位论文全文数据库 前2条
1 张莉;支撑矢量机与核方法研究[D];西安电子科技大学;2002年
2 周伟达;核机器学习方法研究[D];西安电子科技大学;2003年
【相似文献】
中国期刊全文数据库 前10条
1 张健沛;赵莹;杨静;;最小二乘支持向量机的半监督学习算法[J];哈尔滨工程大学学报;2008年10期
2 苑敏;杨奎河;;基于支持向量机理论的多类分类算法[J];福建电脑;2007年02期
3 姚程宽;;SVM在不平衡样本集中的应用研究[J];计算机与数字工程;2007年10期
4 张汝雷;王保民;苏欣平;傅钰;;支持向量机(SVM)在机械故障诊断中的应用研究[J];军事交通学院学报;2009年03期
5 王安娜;李云路;赵锋云;史成龙;;一种新的半监督直推式支持向量机分类算法[J];仪器仪表学报;2011年07期
6 范燕,吴小俊,惠长坤,刘同明;人脸图象特征抽取和识别的一种混合方法研究[J];华东船舶工业学院学报(自然科学版);2003年02期
7 张国宣,孔锐,施泽生,郭立;一种新的基于聚类的SVM迭代算法[J];仪器仪表学报;2004年S1期
8 胡国胜;支持向量机算法及应用[J];现代电子技术;2005年03期
9 李卓,刘斌,刘铁男,朱秀华,魏坤;支持向量机及其在油田生产中的应用[J];大庆石油学院学报;2005年03期
10 李毅;徐守时;;基于支持向量机的遥感图像舰船目标识别方法[J];计算机仿真;2006年06期
中国重要会议论文全文数据库 前10条
1 师旭超;巴松涛;;基于支持向量机方法的深基坑变形预测[A];科技、工程与经济社会协调发展——河南省第四届青年学术年会论文集(上册)[C];2004年
2 林杰华;张斌;李冬森;宋华茂;余志强;王浩;;支持向量机在电力客户信用评级中的应用[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
3 蒋铁军;张怀强;李积源;;多变量系统预测的支持向量机方法研究[A];管理科学与系统科学研究新进展——第7届全国青年管理科学与系统科学学术会议论文集[C];2003年
4 荣海娜;张葛祥;张翠芳;;基于支持向量机的非线性系统辨识方法[A];中国自动化学会、中国仪器仪表学会2004年西南三省一市自动化与仪器仪表学术年会论文集[C];2004年
5 黄淑云;孙兴玉;梁汝萍;邱建丁;;基于小波支持向量机预测蛋白质亚细胞定位研究[A];第十一届全国计算(机)化学学术会议论文摘要集[C];2011年
6 谢湘;匡镜明;;支持向量机在语音识别中的应用研究[A];现代通信理论与信号处理进展——2003年通信理论与信号处理年会论文集[C];2003年
7 涂冬成;薛龙;刘木华;赵进辉;沈杰;吁芳;;基于支持向量机的鹅肉肉色客观评定研究[A];中国农业工程学会电气信息与自动化专业委员会、中国电机工程学会农村电气化分会科技与教育专委会2010年学术年会论文摘要[C];2010年
8 顾锦荣;刘华强;孙预前;;遗传算法优化的支持向量机模型在热带气旋强度预报中的应用[A];第七届长三角气象科技论坛论文集[C];2010年
9 杨凌;刘玉树;;基于支持向量机的坦克识别算法[A];第三届全国数字成像技术及相关材料发展与应用学术研讨会论文摘要集[C];2004年
10 张军;;支持向量机方法在地下水位干扰排除中的初步应用[A];2007年地震流体学术研讨会论文摘要集[C];2007年
中国重要报纸全文数据库 前10条
1 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
2 李水根;计算机详解配伍与药效关系[N];健康报;2005年
3 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
4 YMG记者 李仁 通讯员 曲华明 孙运智;我市九项目进入省“盘子”[N];烟台日报;2010年
5 上海大学理学院教授、副院长 陆文聪;酷爱化学 孜孜以求[N];中国化工报;2006年
6 ;选择合适的数据挖掘算法[N];计算机世界;2007年
7 周颖;王米渠与中医心理学[N];中国中医药报;2006年
8 记者 耿挺;蛋白质功能算出来[N];上海科技报;2007年
9 记者 张云普通讯员 全攀峰 安强强;大庆物探深度域地震资料岩性解释技术获得五大突破[N];中国石油报;2008年
10 本报记者 冯治恩;敢与“雷公”试比高[N];铜川日报;2008年
中国博士学位论文全文数据库 前10条
1 刘叶青;原始空间中支持向量机若干问题的研究[D];西安电子科技大学;2009年
2 赵莹;半监督支持向量机学习算法研究[D];哈尔滨工程大学;2010年
3 常甜甜;支持向量机学习算法若干问题的研究[D];西安电子科技大学;2010年
4 王开义;基于支持向量机的农产品生产关键控制点发现研究[D];北京工业大学;2011年
5 鲁淑霞;基于支持向量机的多光谱数据分类[D];河北大学;2007年
6 王冬丽;基于可扩展的支持向量机分类算法及在信用评级中的应用[D];东华大学;2011年
7 曹葵康;支持向量机加速方法及应用研究[D];浙江大学;2010年
8 任东;基于支持向量机的植物病害识别研究[D];吉林大学;2007年
9 杨金芳;支持向量回归在预测控制中的应用研究[D];华北电力大学(河北);2007年
10 张永;基于模糊支持向量机的多类分类算法研究[D];大连理工大学;2008年
中国硕士学位论文全文数据库 前10条
1 韩叙东;基于支持向量机的水电故障分类器的设计与实现[D];东北大学;2008年
2 聂小芳;模糊粗糙集与支持向量机在煤与瓦斯突出预测中的应用研究[D];辽宁工程技术大学;2009年
3 刘艳伟;支持向量机方法在感潮河段洪峰水位预报中的应用[D];浙江大学;2010年
4 杨镭;支持向量机算法设计及在高分辨雷达目标识别中的应用[D];国防科学技术大学;2010年
5 童振;基于支持向量机的电解液成分预测[D];东北大学;2008年
6 朱耿峰;支持向量机在冲击地压预测模型中的应用研究[D];山东科技大学;2010年
7 王奇安;基于广泛内核的CVM算法研究及参数C的选择[D];南京航空航天大学;2009年
8 张永新;基于支持向量机和遗传算法相结合的模拟电路故障诊断方法研究[D];东北大学;2009年
9 鄢常亮;基于支持向量机的高炉向凉向热炉况预测研究[D];内蒙古科技大学;2010年
10 刘维会;不平衡数据集上支持向量机算法研究[D];山东科技大学;2010年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026