收藏本站
《苏州大学》 2010年
收藏 | 手机打开
二维码
手机客户端打开本文

BP神经网络结构优化方法的研究及应用

赵寿玲  
【摘要】: 本文针对BP神经网络的中存在的最优结构问题(即网络中隐层数和隐层节点数难以确定的问题)及BP算法的缺陷,分别从网络剪枝方法和遗传算法等方面给出了解决方法,提出了基于权值拟熵的快速OBS剪枝算法和基于递阶遗传算法的BP神经网络结构优化方法。同时,在所提理论的基础上,以MATLAB为仿真平台,实现了Hermit多项式和非线性函数的逼近及简单的模式分类问题,验证了所提方法在解决“网络最优结构”问题等方面的有效性。 本文的主要研究内容包括以下四个方面: (1)分析研究BP算法,针对BP算法的缺陷,将网络的权值拟熵作为惩罚项加入到目标函数中来训练网络,使网络在训练过程中自动约束权值分布,并使网络权值的分布趋于集中。 (2)针对BP神经网络中隐层节点数难以确定的问题,提出了一种基于权值拟熵的快速OBS剪枝算法。该算法对OBS剪枝算法进行了改进,能够大大提高网络的剪枝速度。实验结果表明,该算法能够得到网络的精简结构,对网络的泛化能力有较好的改善作用,并且能够提高剪枝算法的执行效率。 (3)提出了一种基于递阶遗传算法的BP网络的结构优化方法,该方法利用递阶遗传算法中染色体的分层结构分别优化网络结构和权值,并用BP算法对进化后具有固定结构的网络权值进一步调整,从而实现了网络结构与权值的同时优化。实验结果表明,该算法能够得到网络的精简结构,并能大大提高网络的收敛速度。 (4)以MATLAB为仿真平台,应用上述方法实现了对Hermit多项式和非线性函数的逼近及简单的模式分类问题,分析了各个方法的优劣,并对各个参数的性能进行了比较,验证了算法的有效性。
【学位授予单位】:苏州大学
【学位级别】:硕士
【学位授予年份】:2010
【分类号】:TP183

【引证文献】
中国博士学位论文全文数据库 前1条
1 汤旻安;基于软计算融合的城市道路交通资源选址研究[D];兰州交通大学;2011年
中国硕士学位论文全文数据库 前8条
1 邢昕;灰色神经网络改进算法及其应用研究[D];华中科技大学;2011年
2 王阳;消除隐层冗余信息的改进神经网络及应用[D];华东理工大学;2012年
3 武江伟;DSP Gateway架构下OMAP平台语音识别系统的实现[D];太原理工大学;2012年
4 冉小丽;基于BP神经网络的我国房地产企业竞争力研究[D];重庆大学;2012年
5 陈帅帅;数据挖掘技术在参考天空分类中的应用研究[D];重庆大学;2012年
6 张学锋;基于目标油门开度预测的AMT汽车起步控制[D];重庆大学;2012年
7 何慧;基于机器视觉的孵化卵在线监测系统[D];合肥工业大学;2012年
8 陈凯华;基于机器视觉的板材表面缺陷检测与识别算法研究[D];华东交通大学;2012年
【参考文献】
中国期刊全文数据库 前10条
1 孔俊 ,吴微;Online Gradient Methods with a Punishing Term for Neural Networks[J];Northeastern Mathematical Journal;2001年03期
2 赖鑫生;神经网络结合遗传算法优化应用[J];贵州大学学报(自然科学版);2004年02期
3 杨钟瑾;;自底向上加快神经网络学习的算法[J];湖南师范大学自然科学学报;2006年03期
4 崔荣一,洪炳熔;关于三层前馈神经网络隐层构建问题的研究[J];计算机研究与发展;2004年04期
5 李智勇,童调生;基于多物种进化遗传算法的神经网络结构学习方法[J];计算机工程与应用;2003年22期
6 曹均阔,舒远仲,叶水生;一种结构自组织的改进BP网络[J];计算机工程;2005年17期
7 王伟娜;杨慧中;;基于权值拟熵的神经网络剪枝算法研究[J];计算机仿真;2006年03期
8 王宏刚;钱锋;;基于遗传算法的前向神经网络结构优化[J];控制工程;2007年04期
9 李倩,王永县,朱友芹;人工神经网络混合剪枝算法[J];清华大学学报(自然科学版);2005年06期
10 吕俊,张兴华,张湜;基于自适应递阶遗传算法的神经网络优化策略[J];计算机工程与设计;2005年02期
【共引文献】
中国期刊全文数据库 前10条
1 郑浩,王全凤;L-M算法在高层结构体系选型中的应用[J];四川建筑科学研究;2003年03期
2 邓建斌;叶洪江;;基于混沌遗传算法的配电网无功补偿优化[J];安徽电气工程职业技术学院学报;2006年03期
3 乔志杰;程翠翠;;基于遗传算法优化的模糊PID控制研究及其仿真[J];安徽电气工程职业技术学院学报;2009年03期
4 徐文婷;李承鹏;;基于自适应遗传算法的离散化方法[J];合肥师范学院学报;2011年03期
5 安振刚,李谋渭,尹显东,于宁,唐伟;遗传神经网络在平整轧制力预报中的应用[J];鞍钢技术;2001年06期
6 华文立;胡学刚;;平衡决策树分类精度与规则简易性研究[J];安徽电子信息职业技术学院学报;2006年04期
7 单敬福;纪友亮;;储层非均质性研究——以葡萄花油层组PI1~PI4小层为例[J];安徽地质;2006年02期
8 田丽,曹安照;自适应模糊神经网络在某电力公司一产用电量预测中的应用[J];安徽工程科技学院学报(自然科学版);2004年04期
9 田丽;张玉成;陈俊;王军;;基于灰色理论的ANFIS在经济预测中的应用[J];安徽工程科技学院学报(自然科学版);2006年02期
10 高洪;侯大寅;李泽应;王军;;RBF神经网络在织物风格中的研究与应用[J];安徽工程科技学院学报(自然科学版);2006年03期
中国重要会议论文全文数据库 前10条
1 齐继阳;竺长安;曾议;;基于遗传禁忌混合搜索算法的设备布局研究[A];2004“安徽制造业发展”博士科技论坛论文集[C];2004年
2 冯羽;马凤山;魏爱华;赵海军;郭捷;;灰色系统与神经网络组合模型在地下水水位预测中的应用[A];中国科学院地质与地球物理研究所第11届(2011年度)学术年会论文集(中)[C];2012年
3 丁婷;崔红涛;;遗传算法在智能天线扇区波束赋形及阵元失效补偿中的应用[A];经济策论(上)[C];2011年
4 吴敏;徐辰华;;铅锌烧结过程产量质量的神经网络预测方法[A];第二十六届中国控制会议论文集[C];2007年
5 程远林;李茂军;;基于小生境遗传算法的配电网电容器优化配置[A];第二十六届中国控制会议论文集[C];2007年
6 姜明辉;袁绪川;;基于GA优化的个人信用评估SVM模型[A];第二十六届中国控制会议论文集[C];2007年
7 张志华;王莉;刘洪;;最大化网络广告收入的投放决策[A];第二十六届中国控制会议论文集[C];2007年
8 赵瑞艳;李树荣;张晓东;苗荣;;基于混合遗传算法的热传导系统最优控制问题求解[A];第二十七届中国控制会议论文集[C];2008年
9 王清;宋年年;王佳庆;姚菁;;优化自抗扰控制器在主汽温控制系统中的应用[A];第二十七届中国控制会议论文集[C];2008年
10 张佑春;王平;张公永;;基于D-S证据理论和神经网络的信息融合方法及应用[A];第二十七届中国控制会议论文集[C];2008年
中国博士学位论文全文数据库 前10条
1 李佳;载人潜器阻力性能的数值和试验预报及外形优化研究[D];哈尔滨工程大学;2010年
2 张亚娟;适应性企业战略协同机制研究[D];哈尔滨工程大学;2010年
3 谭枫;介入式文化算法及其应用研究[D];哈尔滨工程大学;2010年
4 陆满君;通信辐射源个体识别与参数估计[D];哈尔滨工程大学;2010年
5 孙明;基于小波和迟滞的混沌神经网络及其应用[D];哈尔滨工程大学;2010年
6 李晚龙;六自由度Stewart平台分散智能控制研究[D];哈尔滨工程大学;2010年
7 董慧群;代建制项目风险预警管理研究[D];辽宁工程技术大学;2010年
8 许爱德;开关磁阻电机在船舶电力推进中的应用研究[D];大连海事大学;2010年
9 张进;地震叠前数据的弹性阻抗非线性反演方法研究[D];中国海洋大学;2009年
10 王德才;基于能量分析的地震动输入选择及能量谱研究[D];合肥工业大学;2010年
中国硕士学位论文全文数据库 前10条
1 何慧娟;基于多传感器的移动机器人障碍物检测与定位研究[D];安徽工程大学;2010年
2 万成;动态环境下的元胞遗传算法研究[D];南昌航空大学;2010年
3 李坤;参数参与进化的自适应遗传算法研究[D];南昌航空大学;2010年
4 吴香庭;基于遗传算法的K-means聚类方法的研究[D];山东科技大学;2010年
5 马水松;多目标遗传算法与非支配集的构造研究[D];山东科技大学;2010年
6 李臻;城市公交车辆智能调度优化研究[D];山东科技大学;2010年
7 朱国凯;泰安市农村公路典型路面结构研究[D];山东科技大学;2010年
8 纪二云;基于改进遗传算法的电力系统无功优化的研究[D];山东科技大学;2010年
9 王永;消防单兵综合信息采集系统研究[D];山东科技大学;2010年
10 施晓坤;煤炭企业人才结构优化[D];山东科技大学;2010年
【同被引文献】
中国期刊全文数据库 前10条
1 曹守华;袁振洲;韩宝明;李得伟;;基于SOFM神经网络的客运一体化枢纽分类[J];北京交通大学学报;2008年06期
2 杨尚达;李世平;;遗传算法研究[J];兵工自动化;2008年09期
3 王惠文;仪彬;叶明;;基于主基底分析的变量筛选[J];北京航空航天大学学报;2008年11期
4 吕砚山,赵正琦;BP神经网络的优化及应用研究[J];北京化工大学学报(自然科学版);2001年01期
5 郭兴明,姚晓帅,吴继辉;基于模糊逻辑理论的红细胞图像边缘检测[J];北京生物医学工程;2003年04期
6 王立伟;;数据挖掘研究现状综述[J];图书与情报;2008年05期
7 王健;机器视觉系统在现代包装行业中的应用[J];包装与食品机械;2004年05期
8 孙英慧;蒲东兵;;基于拉普拉斯算子的边缘检测研究[J];长春师范学院学报(人文社会科学版);2009年12期
9 李树杰;;中国机器视觉的发展趋势[J];赤峰学院学报(自然科学版);2010年01期
10 米林;马亚洲;郝建军;康洪涛;薛显光;;一种基于Canny理论的边缘提取改进算法[J];重庆理工大学学报(自然科学版);2010年05期
中国重要会议论文全文数据库 前2条
1 马燕鹏;;自适应遗传神经网络在日用水量预测中的应用[A];第二届中国智能计算大会论文集[C];2008年
2 周敏;李飞;;基于量子遗传神经网络的MIMO信号检测技术[A];2009年通信理论与信号处理学术年会论文集[C];2009年
中国博士学位论文全文数据库 前10条
1 孙晋文;基于Agent的智能交通控制策略与可视化动态仿真研究[D];中国农业大学;2001年
2 张国江;软计算方法和数据挖掘理论在电力系统负荷预测中的应用[D];浙江大学;2002年
3 刘昆;软计算方法在智能优化中的应用研究[D];浙江大学;2002年
4 沈国江;城市道路交通智能控制技术研究[D];浙江大学;2004年
5 叶兵;基于遗传神经网络模型实时误差修正任意角测量系统[D];合肥工业大学;2004年
6 钟波;基于软计算理论的电力系统可靠性评估模型与算法研究[D];重庆大学;2004年
7 陈峻;城市停车设施规划方法研究[D];东南大学;2000年
8 葛宏伟;城市公交停靠站点交通影响分析及优化技术研究[D];东南大学;2006年
9 韩冰;基于智能软计算的视频镜头分割算法研究[D];西安电子科技大学;2006年
10 郁志宏;基于机器视觉的种蛋筛选及孵化成活性检测研究[D];内蒙古农业大学;2006年
中国硕士学位论文全文数据库 前10条
1 何剑;基于嵌入式数据库技术的智能化教室门牌的设计与实现[D];苏州大学;2010年
2 何昊青;基于OMAP5912的嵌入式语音信号处理的研究[D];太原理工大学;2011年
3 徐阳;基于ARM+DSP的准在线故障诊断系统软件系统关键技术的研究[D];郑州大学;2011年
4 申付松;AMT汽车自动离合器液压执行机构研究与开发[D];重庆大学;2011年
5 陈丽君;电控机械式自动变速器液压换挡执行机构的研究[D];重庆大学;2011年
6 韩皖贞;计算机视觉玻壳缺陷检测方法的研究[D];天津科技大学;2002年
7 叶明;机械自动变速传动建模与仿真及试验软件开发[D];重庆大学;2003年
8 周宏;灰色神经网络及在砼结构使用寿命评估中的应用[D];武汉理工大学;2004年
9 王汉林;灰色神经网络模型的建立及其在复杂非线性预测问题中的应用[D];吉林大学;2004年
10 童蕾;地震灾害及决策的灰色模型研究[D];河海大学;2005年
【二级引证文献】
中国硕士学位论文全文数据库 前1条
1 陶海龙;基于混合智能算法的铁路运量预测研究[D];兰州交通大学;2012年
【二级参考文献】
中国期刊全文数据库 前10条
1 范九伦,裴继红,谢维信;基于可能性分布的聚类有效性[J];电子学报;1998年04期
2 索胜军,孙光伟,王岩;几种改进BP算法的性能比较[J];哈尔滨建筑大学学报;2000年01期
3 赵温波,王立明,黄德双;最大绝对误差结合微遗传算法优化径向基概率神经网络[J];计算机研究与发展;2005年02期
4 李智勇,童调生;基于多物种进化遗传算法的神经网络结构学习方法[J];计算机工程与应用;2003年22期
5 吴剑国,赵丽萍;工程结构优化的神经网络方法[J];计算力学学报;1998年01期
6 郭陵之;标准BP网络在降雨预报上的应用研究[J];计算机应用与软件;2000年09期
7 鲍晓红,贾英民;用神经元网络辨识非线性系统中的网络结构选择[J];控制理论与应用;1997年04期
8 毛宗源,姚尹武,胡尚信;变结构神经网络[J];控制理论与应用;1999年01期
9 何永勇,褚福磊,钟秉林;基于进化计算的神经网络设计与实现[J];控制与决策;2001年03期
10 周毅,徐柏龄;神经网络中的正交设计法研究[J];南京大学学报(自然科学版);2001年01期
【相似文献】
中国期刊全文数据库 前10条
1 陈小玉;张静;;基于粗糙集-神经网络的变压器故障诊断方法[J];制造业自动化;2011年17期
2 刘瑞英,李明军,徐克宝;电炉温度控制系统的BP神经网络建模[J];煤矿机械;2005年09期
3 陈小玉;朱海华;;一种改进的神经网络模型在故障诊断中的应用[J];微型电脑应用;2010年02期
4 镇方雄;李跃新;;基于改进遗传算法的神经网络优化[J];湖北大学学报(自然科学版);2006年04期
5 彭黔荣,石炎福,刘钟祥,王东山;一种改进的混合遗传算法人工神经网络及其应用[J];化学反应工程与工艺;2005年01期
6 张文波;;RBF神经网络在时间序列预测问题中基于POD的中心选择方法[J];吉林师范大学学报(自然科学版);2007年04期
7 王随平;张彤;宁小玲;;基于集成神经网络的深海机器人故障诊断研究[J];计算机测量与控制;2010年04期
8 黄卫民;关于BP算法推导过程与讨论[J];现代计算机;2001年03期
9 周国亮;刘希玉;;一种基于进化算法的BP神经网络优化方法及应用[J];计算机技术与发展;2007年08期
10 孙志;李广;周永年;;一类基于RBF神经网络的系统辨识算法设计与仿真[J];科技创新导报;2009年05期
中国重要会议论文全文数据库 前10条
1 吴刚;孙一康;;基于遗传算法的模糊神经网络控制器在板形控制系统中的应用[A];1999中国控制与决策学术年会论文集[C];1999年
2 吴兵;;一种具有语义分布的自构造的新人工神经网络系统及其应用[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年
3 李艳;邵日祥;方建安;邵世煌;;神经网络在功率电子及拖动控制中的应用[A];1996中国控制与决策学术年会论文集[C];1996年
4 单鑫;董文洪;曹阳;;多层前馈人工神经网络在装备故障诊断中的应用研究[A];全国炼钢连铸过程自动化技术交流会论文集[C];2006年
5 鲁小帆;郭嗣琮;董超;;基于遗传算法的神经网络学习算法研究[A];中国计量协会冶金分会2007年会论文集[C];2007年
6 崔玉红;胡光锐;;基于神经网络特征维数压缩方法及其在说话人识别中的应用[A];第十届全国信号处理学术年会(CCSP-2001)论文集[C];2001年
7 陈晓东;俞承芳;李旦;;基于优化神经网络的工业系统控制[A];第六届全国信息获取与处理学术会议论文集(3)[C];2008年
8 王娜;申东日;陈义俊;;基于数据融合的神经网络故障诊断[A];2004中国控制与决策学术年会论文集[C];2004年
9 文成义;何海燕;张玉扶;;基于新型神经网络的不定人语音识别[A];第二届全国人机语音通讯学术会议论文集[C];1992年
10 刘华富;;用一种新型神经网络控制器实现非线性系统的二次型性能指标最优控制[A];1998中国控制与决策学术年会论文集[C];1998年
中国重要报纸全文数据库 前10条
1 本报记者 李栋;珠海BP“危”中寻“机”[N];珠海特区报;2009年
2 李高超;BP中国新任总裁陈黎明:油价没有先知[N];国际商报;2009年
3 本报记者 史丰蕾;詹姆斯·皮尔斯:BP漏油促能源保险专业化[N];中国能源报;2010年
4 记者 崔茉;BP能源展望:2030年油气煤三足鼎立[N];中国石油报;2011年
5 记者 陈其珏 编辑 朱贤佳;石油四巨头出资10亿欲为BP消灾[N];上海证券报;2010年
6 媒体评论员 邱林;中国企业不必把收购BP资产看太重[N];中国高新技术产业导报;2010年
7 特派记者 张东明;全力支持BP在珠海的发展[N];珠海特区报;2011年
8 记者 闫磊;美英石油巨头“拷问日”共谴BP[N];经济参考报;2010年
9 记者 宋阳;中石油携手BP开发伊拉克油田[N];中国经济导报;2009年
10 张晓华 詹铃;BP欲变卖资产 谁会要[N];中国化工报;2010年
中国博士学位论文全文数据库 前10条
1 王吉权;BP神经网络的理论及其在农业机械化中的应用研究[D];沈阳农业大学;2011年
2 李英伟;基于增量改进BP神经网络微波深度干燥模型及应用研究[D];昆明理工大学;2011年
3 杨艳子;基于BP网络和稳健性分析的机械扩径工艺参数优化[D];燕山大学;2010年
4 孙贵香;冠心病中医证候数据库系统的构建及其BP神经网络模型的研究[D];湖南中医药大学;2008年
5 孙晓琳;基于Kalman滤波和BP神经网络的财务危机动态预警模型研究[D];哈尔滨工业大学;2010年
6 杨丽;无线内窥镜系统设计及内窥镜图像压缩编码算法研究[D];重庆大学;2008年
7 牟洪波;基于BP和RBF神经网络的木材缺陷检测研究[D];东北林业大学;2010年
8 陈双喜;西北太平洋北赤道流分叉处37ka BP以来的高分辨率古海洋记录[D];中国科学院研究生院(海洋研究所);2011年
9 马晓东;非核苷类HIV-1逆转录酶抑制剂研究 Ⅰ:CH_2-DAPY衍生物的结构优化及构效关系研究 Ⅱ:BP类似物的分子设计、合成及构效关系研究[D];复旦大学;2011年
10 孙世霞;复杂大系统建模与仿真的可信性评估研究[D];国防科学技术大学;2005年
中国硕士学位论文全文数据库 前10条
1 赵寿玲;BP神经网络结构优化方法的研究及应用[D];苏州大学;2010年
2 吴伟;基于改进遗传算法的神经网络结构优化研究[D];苏州大学;2012年
3 董正良;无刷直流电机BP神经网络控制的研究[D];西安电子科技大学;2010年
4 郑晓妍;神经网络结构化设计与研究[D];北京化工大学;2011年
5 于涛;BP网络自适应学习率算法分析[D];大连理工大学;2011年
6 温变珍;BP神经网络在大肠癌预后分析中的应用[D];山西医科大学;2010年
7 张立琪;调节系数的BP神经网络在字符识别中的研究[D];哈尔滨工程大学;2010年
8 陈严君;锂电池阻抗模型参数的BP神经网络预测研究[D];哈尔滨理工大学;2010年
9 周凌翱;改进BP神经网络在模式识别中的应用及研究[D];南京理工大学;2010年
10 王凯;基于遗传算法-BP神经网络的飞灰含碳量和NO_x的研究[D];华北电力大学(北京);2010年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026