收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

基于构造型前馈神经网络的函数逼近与应用

侯木舟  
【摘要】: 众所周知,人工神经网络具有很好的函数逼近能力,但传统的学习型神经网络存在许多缺陷,如对初始权重非常敏感,极易收敛于局部极小;往往停滞于误差梯度曲面的平坦区,收敛缓慢甚至不能收敛;过拟合与过训练;网络隐含节点数不确定等。针对此,本文主要研究近年来发展起来的单隐层构造型前馈神经网络的函数逼近能力及其在EEG信号预测、长株潭地区环境数据预测和股市数据挖掘中的应用,以及构造型前馈神经网络与学习型前馈神经网络在上述领域的应用比较。 首先,在B. Llanas和F.J.Sainz的工作的启发下,将前馈神经网络的激活函数换成Gaussian函数,得到构造岭函数型Gaussian前馈神经网络,证明了具有单隐层n+1个神经元的神经网络,能精确插值n+1个样本,然后,根据样本值构造出Gaussian型前馈神经网络的内部和外部权值,证明了它能以任意精度近似地插值这些样本,并给出了其误差的上界。进一步,证明了这种构造型Gaussian型前馈神经网络能以任意精度一致逼近闭区间上的任意连续函数,并给出了其误差的上界。同时将上述结论推广到了多维的情况。并通过数值实验,验证了上述结论的正确性和有效性。 由于上述造岭函数型Gaussian前馈神经网络在推广到多维的情况时的复杂性和具体操作上的困难性。将构造岭函数型Gaussian前馈神经网络的激活函数换成径向基函数(RBF),得到构造型前馈RBF神经网络。针对这种径向基函数型前馈单隐层神经网络,根据样本值直接构造出多维(包含一维)情况下的内部和外部权值,并给出了相应的形状参数,证明了它能以任意精度近似地插值这些样本,并给出了其误差的上界。进一步,证明了这种构造型RBF前馈单隐层神经网络能以任意精度一致逼近闭区间上的任意连续函数,并给出了其误差的上界。通过数值实验,验证了上述结论的正确性和有效性。 进一步,将前馈神经网络的激活函数换成小波函数,得到小波前馈神经网络,证明了这种具有n+1单隐层个神经元的神经网络,能精确插值n+1个样本,同样根据样本值构造它的内部和外部权值,证明了这种构造型小波前馈神经网络能以任意精度近似地插值这些样本。进一步,证明了它能以任意精度一致逼近闭区间上的任意连续函数。同时将上述结论推广到了多维的情况。并通过数值实验,验证了上述结论的正确性和有效性。 对于多维情况,采用比以前更简洁、更有效的构造方法,得到另一种构造型前馈小波径向基神经网络,同样证明了这种具有n+1单隐层个神经元的小波径向基神经网络,能精确插值n+1个多维样本,进一步,证明了它能以任意精度一致逼近闭区域上任意多维连续函数。并通过Matlab编程和数值实验,验证了这种网络操作上更简洁,收敛速度更快。 将上述小波径向基神经网络推广到L2(R)RBF神经网络,对于多维数据与连续函数,证明了与小波神经网络同样的结论。并和CRBF网络、BP网络、ELM、SVM比较起来,通过8个实验进一步验证了L2RNNs具有更快的收敛速度和更好的泛化性能。 将上述构造型sigmoid神经网络应用到EEG信号预测、并和学习型BP神经网络的预测方法和结果作对比,在样本数量不至于出现灾难维的情况下,构造型sigmoid神经网络体现出了明显的优越性。 将学习型BP神经网络和构造型小波神经网络应用到长株潭地区环境数据预测中,再一次验证了,在小样本环境的预测中,构造型小波神经网络体现了其直接性、简洁性和稳定性。 在股市数据挖掘中,将其中一部分数据作为样本,同时用小波分析、学习型BP神经网络和构造型小波神经网络,构造模型和算法。另一部分数据作为对模型的验证数据,检验相应的模型和网络。进一步验证了单隐层构造型前馈神经网络,在样本数量非海量的情况下的直接性、简洁性和稳定性。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 江学军;唐焕文;;一种前馈神经网络的整体进化方法[J];计算机科学;1999年10期
2 赵菊敏;程海青;张立毅;;基于动量项前馈神经网络盲均衡算法[J];太原理工大学学报;2007年03期
3 艾芳菊;李晓芳;;一种新的前馈神经网络删剪算法[J];四川大学学报(自然科学版);2008年06期
4 崔明义,苏白云;前馈神经网络误差修正算法的改进和比较[J];计算机应用与软件;2005年09期
5 张晓琴;张富强;侯永兴;张立毅;王华奎;;前馈神经网络复值盲均衡算法的研究[J];太原理工大学学报;2006年03期
6 李伟强;徐建城;殷剑锋;;蜜蜂群优化算法用于训练前馈神经网络[J];计算机工程与应用;2009年24期
7 颜晨阳;;前馈神经网络连续二元蚁群训练模型[J];软件导刊;2011年06期
8 柳文,冯建农,柳明;一种改进型快速BP训练算法[J];计算机工程与科学;1998年04期
9 何谦;;前馈神经网络BP算法及其VB语言程序设计[J];泸天化科技;2001年02期
10 贾文臣,叶世伟,贾显鹏,陈国梁;前馈神经网络改进算法及其在矿床预测中的应用[J];中国矿山工程;2004年03期
11 周晓东;邓伟;陆建德;;多层前馈神经网络的面向对象的程序设计框架[J];苏州大学学报(工科版);2006年01期
12 袁海英;陈光;谢永乐;;基于交叉算法的神经网络模拟电路特性分析[J];电子测量与仪器学报;2007年03期
13 孙云山;张立毅;刘婷;李艳琴;;惩罚函数优化的前馈神经网络盲多用户检测[J];计算机工程;2008年11期
14 李振兴;周连锋;肖瑛;;能量匹配准则下的前馈神经网络盲均衡[J];通信技术;2008年12期
15 潘长波;李红星;;反馈神经网络用于多输入输出动态系统建模[J];计算机应用;2009年S1期
16 李艳琴;张立毅;郭纯生;储琳琳;;Lagrange优化的LMK神经网络盲多用户检测[J];计算机工程与应用;2010年18期
17 邵红梅;安凤仙;;一类训练前馈神经网络的梯度算法及收敛性[J];中国石油大学学报(自然科学版);2010年04期
18 王勇;付志红;张淮清;王好娜;侯兴哲;;基于前馈神经网络的电网基波高精度检测[J];电网技术;2011年08期
19 缑娜;王睿;付莹;;基于自适应卡尔曼滤波器的神经网络算法[J];弹箭与制导学报;2006年S5期
20 吕琳;张建军;;基于改进的FNN的无线信道模型研究[J];武汉理工大学学报(信息与管理工程版);2007年10期
中国重要会议论文全文数据库 前10条
1 仉宝玉;陈义俊;;前馈神经网络快速学习算法及应用[A];'2003系统仿真技术及其应用学术交流会论文集[C];2003年
2 李永敏;吉吟东;朱善君;孙增圻;;一种基于规则的前馈神经网络及其学习算法[A];1998年中国智能自动化学术会议论文集(上册)[C];1998年
3 宋宜斌;王培进;李凯里;;多层前馈神经网络中BP算法的改进及其应用研究[A];2001年中国智能自动化会议论文集(上册)[C];2001年
4 姜力孚;郑维敏;陈剑;李荣改;王玉珍;;前馈神经网络的正交遗传算法学习方法及其在水稻育种中的应用[A];复杂巨系统理论·方法·应用——中国系统工程学会第八届学术年会论文集[C];1994年
5 梁循;杜继宏;夏绍玮;杨振斌;;前馈神经网络的补偿方法[A];1994年中国控制会议论文集[C];1994年
6 张燕;孙慧;;前馈神经网络的改进算法[A];2001中国控制与决策学术年会论文集[C];2001年
7 孙标;冯浩;刘国安;;前馈神经网络的增广PIDBP学习算法[A];全国冶金企业计控网络化研讨会论文集[C];2003年
8 陈振湘;陈剑勇;徐慎初;钟金水;;具有刺激-反应阈值的前馈神经网络[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年
9 徐耀群;刘健;张莉;;一种混沌学习算法及应用[A];2003中国控制与决策学术年会论文集[C];2003年
10 芮秀;;证券市场控制系统的分析与预测[A];1998中国控制与决策学术年会论文集[C];1998年
中国博士学位论文全文数据库 前10条
1 侯木舟;基于构造型前馈神经网络的函数逼近与应用[D];中南大学;2009年
2 王健;前馈神经网络梯度学习算法收敛性分析[D];大连理工大学;2012年
3 赵胜利;基于计算智能方法的岩土工程与工程网络计划的应用研究[D];天津大学;2004年
4 张会生;前馈神经网络梯度训练算法的几个收敛性结果[D];大连理工大学;2009年
5 肖瑛;基于水声信道的盲均衡算法研究[D];哈尔滨工程大学;2006年
6 李建洋;基于粗糙集与前馈网络的案例智能系统的研究[D];合肥工业大学;2009年
7 韩飞;基于先验信息编码的约束学习算法研究[D];中国科学技术大学;2006年
8 邵红梅;带惩罚项的BP神经网络训练算法的收敛性[D];大连理工大学;2006年
9 杨迎泽;重载组合列车同步制动系统故障诊断技术与应用研究[D];中南大学;2010年
10 齐峰;人工神经树网络模型的优化研究与应用[D];山东师范大学;2011年
中国硕士学位论文全文数据库 前10条
1 张萧;通用前馈神经网络代码库的设计[D];福建师范大学;2011年
2 董春岩;基于反传混沌粒子群训练前馈神经网络应用研究[D];北京化工大学;2013年
3 马岩尉;基于前馈神经网络的电子鼻模式识别方法[D];大连理工大学;2010年
4 贾琨钰;用于前馈神经网络的一种反向传播算法的改进[D];大连理工大学;2010年
5 马莉;基于遗传前馈神经网络自适应均衡算法的研究[D];太原理工大学;2011年
6 赵淑海;多层前馈神经网络拓扑结构的遗传优化研究[D];山东大学;2005年
7 李艳琴;基于前馈神经网络盲多用户检测算法的研究[D];太原理工大学;2007年
8 杜鹃;一种新型算法的短期负荷预测[D];华北电力大学(河北);2007年
9 刘永;遗传前馈神经网络盲均衡算法的研究[D];太原理工大学;2007年
10 甘子平;FPGA在神经网络盲均衡算法中的应用与研究[D];太原理工大学;2008年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978