BP网络自适应学习率算法分析
【摘要】:人工神经网络(Artificial Neural Networks:ANN,简称神经网络)是一门新兴的交叉学科,是模拟生物神经网络的行为和特征,进行分布式并行信息处理的数学模型。近年来,神经网络取得了广泛的应用,其应用范围涵盖了模式识别、数据挖掘、金融预测等经济和生活中的众多领域,显示了巨大的发展潜力。
BP(Back Propagation)神经网络是一种按误差逆向传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。但是由于BP网络收敛速度慢、训练时间长,决定了该算法的时间消耗很大。所以为了改进BP网络的效果,人们提出了许多改进算法。其中,自适应学习率算法是一种简单而有效的改进办法。
自适应学习率算法可以有效的改进BP网络的收敛速度。但是对于同一问题,不同的自适应学习率算法的效果有很大差异。本文通过分析几种常见自适应学习率算法,从而给出不同算法的适用范围。
|
|
|
|
1 |
武美先,张学良,温淑花,郭琴;BP神经网络的双学习率自适应学习算法[J];现代制造工程;2005年10期 |
2 |
龚安;张敏;;BP网络自适应学习率研究[J];科学技术与工程;2006年01期 |
3 |
王科俊,李国斌;几种变学习率的快速BP算法比较研究[J];哈尔滨工程大学学报;1997年03期 |
4 |
王子才,施云惠,崔明根;一种具有动态最优学习率的BP算法[J];系统仿真学报;2001年06期 |
5 |
宋文娣;钱旭;;基于神经网络的改进算法在入侵检测中的应用[J];信息技术与标准化;2013年Z1期 |
6 |
莫易敏;齐飞;张健;;基于动态学习率与BP神经网络的变速箱故障诊断研究[J];机械设计与制造;2017年11期 |
7 |
罗四维;肖晔;丁嘉种;;学习率自调整的BP算法[J];北方交通大学学报;1993年02期 |
8 |
杨安华,彭清娥,刘光中;BP算法固定学习率不收敛原因分析及对策[J];系统工程理论与实践;2002年12期 |
9 |
李成林;李鸿雁;鲍新华;苗立峰;;学习率有限监督调整BP网络在黄河下游水质预测中的应用[J];东北水利水电;2008年12期 |
10 |
陈国安,尤肖虎;基于学习率与惯性因子动态联合优化的快速BP算法[J];东南大学学报;1999年04期 |
11 |
王古森;高波;;基于自适应学习率BP神经网络的火点定位模型[J];计算机系统应用;2019年03期 |
12 |
张永宏;吴鑫;;BP神经网络在图像字符识别中的改进和应用[J];南京信息工程大学学报(自然科学版);2012年06期 |
13 |
付光杰;胡明哲;;基于改进型学习率自适应BP神经网络的风力发电变桨距控制技术[J];自动化与仪器仪表;2016年06期 |
14 |
杨守建;陈恳;;BP神经网络性能与隐藏层结构的相关性探究[J];宁波大学学报(理工版);2013年01期 |
15 |
李兆远;孔凡震;王涛;鲁怀伟;;基于BP神经网络的图书编号识别[J];山东轻工业学院学报(自然科学版);2009年03期 |
16 |
赵娟娟;;BP神经网络在精密刀具质检中的应用[J];西部皮革;2018年20期 |
17 |
张利平,王铁生,索丽生;改进的BP网络在汽轮发电机组故障诊断中的应用[J];河海大学学报(自然科学版);2003年02期 |
18 |
王玉荣;乌日根;;基于BP神经网络的合金铸铁腐蚀深度预测[J];腐蚀与防护;2011年12期 |
|