收藏本站
《燕山大学》 2003年
收藏 | 手机打开
二维码
手机客户端打开本文

神经网络与支持向量机学习算法的理论及仿真研究

刘庆平  
【摘要】: 传统的神经网络(BP网络)在网络训练和网络设计上长期受困于三个难以克服的缺陷,即网络训练速度慢、训练易陷入局部极小点和网络学习的推广性能差。本文从算法层和计算理论层两个层次对造成这些缺陷的原因和克服这些缺陷的方法进行了系统的研究。 在算法层,本文对目前用于神经网络训练的各种算法,包括梯度算法、智能学习算法和混合学习算法进行了比较研究;对用于神经网络训练的BP算法的优化原理进行了详细的理论分析,找到了BP算法存在严重缺陷的原因,并对其两类改进算法-启发式算法和二次梯度算法―的优化原理,在统一的框架之下进行了详尽的理论描述;对神经网络全局优化算法主要是遗传算法进行了详细的阐述,并在此基础上,设计了一种性能改进的遗传算法;最后基于神经网络学习的benchmark问题对各种算法在网络训练中的应用性能进行了仿真研究,并提出了遗传算法受困于“维数灾难”的观点。这一层次的研究表明,算法层只是在原有神经网络的框架下利用高性能的优化算法克服网络学习的前两个缺陷,由于受目前优化理论的限制,很难有巨大的突破。 在计算理论层,从机器学习的角度分析了造成神经网络设计困难的原因;对指导神经网络设计的统计学习理论和正规化方法给以了系统的阐述;并重点对由统计学习理论直接导出的先进的学习机器—支持向量机—的理论进行了比较全面的阐述;通过函数逼近和系统建模等学习任务对神经网络和支持向量机学习的推广性能进行了仿真研究。这一层次的研究表明,支持向量机可以很好地克服神经网络学习的三个缺陷。因此,从计算理论层出发,对网络学习的本质进行研究,并设计新的高性能的学习机器,从而避开传统神经网络学习机器存在的难以克服的困难,是从根本上解决神经网络学习问题的可行方法。 本文最后对神经网络学习和支持向量机学习的研究领域仍需进一步研究的课题提出了自己的见解。
【学位授予单位】:燕山大学
【学位级别】:硕士
【学位授予年份】:2003
【分类号】:TP18

【相似文献】
中国期刊全文数据库 前10条
1 郭成芳;;支持向量机在网络异常入侵检测中的应用研究[J];计算机仿真;2011年07期
2 邝涛;张倩;;改进支持向量机在电信客户流失预测的应用[J];计算机仿真;2011年07期
3 宋晖;薛云;张良均;;基于SVM分类问题的核函数选择仿真研究[J];计算机与现代化;2011年08期
4 余萍;;基于支持向量机发展的研究[J];新课程(教育学术);2011年05期
5 关欣;郭强;张政超;赵静;翟鸿君;;基于核函数支持向量机的雷达辐射源识别[J];弹箭与制导学报;2011年04期
6 谢凌然;高长伟;沈玉娣;;基于混合核函数支持向量机的齿轮诊断方法研究[J];机械传动;2011年09期
7 吕向阳;高尚;;基于支持向量机的品牌特色专业评价[J];价值工程;2011年24期
8 王慧勤;雷刚;;基于LIBSVM的风速预测方法研究[J];科学技术与工程;2011年22期
9 李荣兵;;基于支持向量机的数控机床总线的故障诊断研究[J];煤矿机械;2011年09期
10 宋贤霞;;基于相关反馈的图像检索技术研究[J];福建电脑;2011年06期
中国重要会议论文全文数据库 前10条
1 林杰华;张斌;李冬森;宋华茂;余志强;王浩;;支持向量机在电力客户信用评级中的应用[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
2 蒋铁军;张怀强;李积源;;多变量系统预测的支持向量机方法研究[A];管理科学与系统科学研究新进展——第7届全国青年管理科学与系统科学学术会议论文集[C];2003年
3 黄淑云;孙兴玉;梁汝萍;邱建丁;;基于小波支持向量机预测蛋白质亚细胞定位研究[A];第十一届全国计算(机)化学学术会议论文摘要集[C];2011年
4 谢湘;匡镜明;;支持向量机在语音识别中的应用研究[A];现代通信理论与信号处理进展——2003年通信理论与信号处理年会论文集[C];2003年
5 涂冬成;薛龙;刘木华;赵进辉;沈杰;吁芳;;基于支持向量机的鹅肉肉色客观评定研究[A];中国农业工程学会电气信息与自动化专业委员会、中国电机工程学会农村电气化分会科技与教育专委会2010年学术年会论文摘要[C];2010年
6 杨凌;刘玉树;;基于支持向量机的坦克识别算法[A];第三届全国数字成像技术及相关材料发展与应用学术研讨会论文摘要集[C];2004年
7 师旭超;巴松涛;;基于支持向量机方法的深基坑变形预测[A];科技、工程与经济社会协调发展——河南省第四届青年学术年会论文集(上册)[C];2004年
8 张军;;支持向量机方法在地下水位干扰排除中的初步应用[A];2007年地震流体学术研讨会论文摘要集[C];2007年
9 许建生;盛立东;;基于改进的支持向量机和BP神经网络的识别算法[A];第八届全国汉字识别学术会议论文集[C];2002年
10 荣海娜;张葛祥;张翠芳;;基于支持向量机的非线性系统辨识方法[A];中国自动化学会、中国仪器仪表学会2004年西南三省一市自动化与仪器仪表学术年会论文集[C];2004年
中国重要报纸全文数据库 前10条
1 课题主持人 李心丹 课题协调人 上海证券交易所 施东晖 傅浩 课题研究员 宋素荣 查晓磊 宾红辉 张许宏 郭静静 黄隽 南京大学工程管理学院;内幕交易与市场操纵的行为动机与判别监管研究[N];中国证券报;2007年
2 李水根;计算机详解配伍与药效关系[N];健康报;2005年
3 清华大学 苏光大;非接触式人脸识别技术[N];计算机世界;2006年
4 YMG记者 李仁 通讯员 曲华明 孙运智;我市九项目进入省“盘子”[N];烟台日报;2010年
5 上海大学理学院教授、副院长 陆文聪;酷爱化学 孜孜以求[N];中国化工报;2006年
6 ;选择合适的数据挖掘算法[N];计算机世界;2007年
7 周颖;王米渠与中医心理学[N];中国中医药报;2006年
8 记者 耿挺;蛋白质功能算出来[N];上海科技报;2007年
9 记者 张云普通讯员 全攀峰 安强强;大庆物探深度域地震资料岩性解释技术获得五大突破[N];中国石油报;2008年
10 本报记者 冯治恩;敢与“雷公”试比高[N];铜川日报;2008年
中国博士学位论文全文数据库 前10条
1 杜小芳;基于CPFR的农产品采购模型研究[D];华中科技大学;2005年
2 刘育明;动态过程数据的多变量统计监控方法研究[D];浙江大学;2006年
3 栾锋;支持向量机(SVM)和径向基神经网络(RBFNN)方法在化学、环境化学和药物化学中的应用研究[D];兰州大学;2006年
4 孙薇;市场条件下抽水蓄能电站效益综合评价及运营模式研究[D];华北电力大学(河北);2007年
5 常群;支持向量机的核方法及其模型选择[D];哈尔滨工业大学;2007年
6 朱燕飞;锌钡白回转窑煅烧过程智能建模研究[D];华南理工大学;2005年
7 田英杰;支持向量回归机及其应用研究[D];中国农业大学;2005年
8 燕忠;基于蚁群优化算法的若干问题的研究[D];东南大学;2005年
9 任东;基于支持向量机的植物病害识别研究[D];吉林大学;2007年
10 杨金芳;支持向量回归在预测控制中的应用研究[D];华北电力大学(河北);2007年
中国硕士学位论文全文数据库 前10条
1 刘庆平;神经网络与支持向量机学习算法的理论及仿真研究[D];燕山大学;2003年
2 江锋;支持向量机在分类及人脸检测应用中的研究[D];南京理工大学;2003年
3 傅正钢;基于统计学习的人工智能在数字游戏和数字娱乐上的应用[D];浙江大学;2004年
4 朱晓芳;基于支持向量机的田间杂草识别方法研究[D];江苏大学;2010年
5 朱明玲;基于改进的小波变换和支持向量机的纺织细纱机故障自动诊断[D];东华大学;2011年
6 张宝华;支持向量机在入侵检测系统中的研究和应用[D];天津理工大学;2010年
7 赖永标;支持向量机在地下工程中的应用研究[D];山东科技大学;2004年
8 沈徐辉;基于核主成分与支持向量机的体内药物代谢预测[D];浙江大学;2011年
9 李铮;基于支持向量机的道路交通标志识别的研究[D];燕山大学;2011年
10 王启超;基于组合核函数支持向量机的软测量技术及其应用研究[D];江西理工大学;2011年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026