收藏本站
《大连理工大学》 2007年
收藏 | 手机打开
二维码
手机客户端打开本文

Pi-Sigma神经网络随机输入在线梯度法的收敛性

亢喜岱  
【摘要】: BP神经网络是目前应用最广泛的前馈神经网络模型之一。但其收敛速度慢也成为它的一个重要局限。高阶神经网络既拥有比BP神经网络更强的非线性分类能力,又将训练时间大大减少。Pi-Sigma神经网络(Pi-Sigma Neural Network,简称PSNN)是Y.Shin和J.Ghosh在1991年提出的一种新的高阶神经网络。它的结构是简单的单层感知器,因此收敛速度快。同时又具有高阶神经网络特有的强非线性映射能力,而且避免了高阶神经网络存在的“维数灾难”问题。Pi-Sigma神经网络和以其为模块构造的神经网络广泛应用于求解各种分类和逼近问题。 关于神经网络的收敛性,以往的结论往往是概率性的。近年来,吴微教授等人在BP神经网络确定性收敛方面做了大量的工作,也得到了许多成果。但关于高阶神经网络尤其是Pi-Sigma神经网络的确定收敛性方面的工作才刚刚开始。关于Pi-Sigma神经网络离线梯度法和顺序样本输入在线梯度法的收敛性结论已经分别在文献[12]和[13]中给出。本文推广了这些结果,给出了Pi-Sigma神经网络随机输入在线梯度法的收敛性结论及证明。其中包括:每一轮输入后误差函数的单调递减性,以及该算法的弱收敛性和强收敛性。另外,本文通过数值试验给出了学习率和初始权值对Pi-Sigma网络收敛性的影响,并对这些现象进行了分析,给出了一些改进方法和解决措施。
【学位授予单位】:大连理工大学
【学位级别】:硕士
【学位授予年份】:2007
【分类号】:TP183

【参考文献】
中国期刊全文数据库 前3条
1 许斌,王士同,朱晓铭,韩斌;Pi-Sigma模糊神经网络及其在态势评估中的应用[J];雷达与对抗;2000年04期
2 李正学,吴微,张宏伟;二层前传神经网络中在线梯度法的收敛性(英文)[J];数学研究与评论;2001年02期
3 王阿明,梁明理;全局优化学习算法下的高阶神经网络模型[J];武汉大学学报(自然科学版);1994年03期
【共引文献】
中国期刊全文数据库 前10条
1 崔旖娜;王苏岩;李宏男;;基于BP神经网络时间序列方法的辽宁省建筑业经济技术指标预测[J];四川建筑科学研究;2008年02期
2 朱明星,张德龙;RBF网络基函数中心选取算法的研究[J];安徽大学学报(自然科学版);2000年01期
3 曹守华;袁振洲;韩宝明;李得伟;;基于SOFM神经网络的客运一体化枢纽分类[J];北京交通大学学报;2008年06期
4 吕延龙,曹营军,田春雷;用神经网络技术预测库存发射药安全寿命的可行性[J];火炸药学报;2003年01期
5 李宇峰,裴旭东,黄聪明;BP神经网络实际应用中的若干问题[J];兵工自动化;1998年01期
6 杨志龙;系统辨识理论与BP算法数学原理[J];兵工自动化;1998年04期
7 陶雪梅;刘自伟;;基于神经网络的降雨预报系统及其改进[J];兵工自动化;2006年09期
8 庄小燕,陈浩然;基于动力有限元分析和神经网络技术的含分层复合材料层合板的损伤诊断[J];玻璃钢/复合材料;2004年05期
9 张欣;;小样本情况下的船舶溢油事故风险评价研究[J];船舶工程;2009年02期
10 蒋玉莲,申冬慧,王翼;基于信息融合与神经网络PID(比例-积分-微分)技术的潜艇自动舵研究[J];船舶;2005年01期
中国重要会议论文全文数据库 前3条
1 许华宇;李明辉;;放电加工过程的计算机仿真研究[A];第八届全国电加工学术年会论文集[C];1997年
2 李海滨;王辉;周锦进;翟小兵;王志国;;神经网络在脉冲电化学光整加工工艺中的应用[A];2005年中国机械工程学会年会论文集第11届全国特种加工学术会议专辑[C];2005年
3 严波涛;;神经网络理论及其在运动生物力学研究中的应用[A];第十届全国运动生物力学学术交流大会论文汇编[C];2002年
中国博士学位论文全文数据库 前10条
1 苏晓宏;海杂波的特性分析与目标检测处理[D];大连海事大学;2010年
2 钟俊;宏观尺度的纳米级定位控制技术研究[D];中国科学技术大学;2011年
3 王扬帆;基于偏微分方程的时滞递归神经网络的动力分析与多尺度图像处理研究[D];中国海洋大学;2011年
4 姚永明;基于液压变压器的装载机节能研究[D];吉林大学;2011年
5 樊臻;彩色像景智能CAD关键技术研究[D];浙江大学;2008年
6 向小东;基于神经网络与混沌理论的非线性时间序列预测研究[D];西南交通大学;2002年
7 逯静洲;三轴受压混凝土损伤特性理论与试验研究[D];大连理工大学;2002年
8 樊昀;基于内容图像检索的一些关键技术研究[D];国防科学技术大学;2001年
9 易正俊;多源信息智能融合算法[D];重庆大学;2002年
10 张苑竹;混凝土结构耐久性检测、评定及优化设计方法[D];浙江大学;2003年
中国硕士学位论文全文数据库 前10条
1 滕景忠;智能瓦斯传感器的研制[D];山东科技大学;2010年
2 王骏;基于径向基神经网络的模拟电路故障诊断研究[D];大连理工大学;2010年
3 贾琨钰;用于前馈神经网络的一种反向传播算法的改进[D];大连理工大学;2010年
4 高利坤;感知器算法和BP算法的性能对比分析[D];大连理工大学;2010年
5 征进;高阶神经网络结构优化与改进[D];大连理工大学;2010年
6 马岩尉;基于前馈神经网络的电子鼻模式识别方法[D];大连理工大学;2010年
7 闫寿江;Oja-Xu MCA跳步归一化算法的收敛性分析[D];大连理工大学;2010年
8 王剑;掘进机器人控制算法研究[D];辽宁工程技术大学;2009年
9 朱成李;城市道路旅客运输规建一体化及其实证研究[D];长沙理工大学;2010年
10 徐珊珊;水库决策支持系统的研究与开发[D];南昌大学;2010年
【二级参考文献】
中国期刊全文数据库 前4条
1 安晓东,刘国庆;神经网络理论与模糊理论在目标威胁判断中的应用[J];舰船科学技术;1997年02期
2 谈卫红,肖纯槐,梁明理;选择方向强化学习的神经网络模型[J];生物物理学报;1992年02期
3 王阿明;梁明理;;高阶神经网络模型的存储容量和吸引盆[J];武汉大学学报(自然科学版);1993年01期
4 臧惠林;梁明理;王阿明;;神经网络在存储临界饱和状态下的学习模式[J];武汉大学学报(自然科学版);1992年03期
【相似文献】
中国期刊全文数据库 前10条
1 李天牧,李学群;基于神经网络的自动特征抽取[J];云南大学学报(自然科学版);1991年03期
2 kelly MF;邰常峰;;神经网络在肌电信号分析中的应用[J];国际生物医学工程杂志;1991年06期
3 汤新梁;;自由手写体数字识别的神经网方法[J];东南大学学报(自然科学版);1991年03期
4 曾黄麟;;一类新的模式识别联想神经网络[J];电讯技术;1992年01期
5 ;简讯[J];西安电子科技大学学报;1992年01期
6 卢科学;郭美义;;平移不变模式变换与神经网络[J];西安电子科技大学学报;1992年03期
7 吴新余;;简析Lyapunov函数40例[J];南京邮电大学学报(自然科学版);1992年04期
8 王继成,吕维雪;基于神经网络的逻辑计算[J];计算机工程与设计;1993年02期
9 高丽娜;邱关源;;神经网络高精度权值的模拟电路实现[J];电子与信息学报;1993年05期
10 陈在;;神经网络:一种全新的多媒体技术[J];重庆邮电学院学报(自然科学版);1993年01期
中国重要会议论文全文数据库 前10条
1 侯艳芳;冯红梅;;基于神经网络的调制识别算法的研究[A];武汉(南方九省)电工理论学会第22届学术年会、河南省电工技术学会年会论文集[C];2010年
2 沈建荣;杨林泉;陈琳;;神经网络的稳定性判据与区域经济结构调整[A];系统工程与可持续发展战略——中国系统工程学会第十届年会论文集[C];1998年
3 石山铭;李富兰;丁俊丽;;神经网络的知识获取[A];全国青年管理科学与系统科学论文集(第1卷)[C];1991年
4 吴清烈;徐南荣;;基于神经网络的一种多目标决策方法[A];复杂巨系统理论·方法·应用——中国系统工程学会第八届学术年会论文集[C];1994年
5 李晓钟;汪培庄;罗承忠;;神经网络与模糊逻辑[A];中国系统工程学会模糊数学与模糊系统委员会第五届年会论文选集[C];1990年
6 房育栋;余英林;;高阶自组织映射及其学习算法[A];1995年中国控制会议论文集(上)[C];1995年
7 王晓晔;杜朝辉;吕德忠;刘建峰;;神经网络模糊控制在温度控制系统中的应用[A];1997中国控制与决策学术年会论文集[C];1997年
8 金龙;吴建生;;基于遗传算法的神经网络短期气候预测模型(摘要)[A];新世纪气象科技创新与大气科学发展——中国气象学会2003年年会“气候系统与气候变化”分会论文集[C];2003年
9 申伟;张元培;;基于MATLAB的自适应神经网络模糊系统(ANFIS)的应用[A];《制造业自动化与网络化制造》学术交流会论文集[C];2004年
10 田艳兵;;BP算法和PSO算法在神经网络中的研究[A];第二十九届中国控制会议论文集[C];2010年
中国重要报纸全文数据库 前10条
1 于翔;数字神经网络中的协同应用[N];网络世界;2009年
2 健康时报特约记者  张献怀;干细胞移植:修复受损的神经网络[N];健康时报;2006年
3 邹丽梅 陈耀群;江苏科大神经网络应用研究通过鉴定[N];中国船舶报;2006年
4 记者 孙刚;“神经网络”:打开复杂工艺“黑箱”[N];解放日报;2007年
5 本报首席记者 任荃 实习生 史博臻;轨交“神经网络”触动创新神经[N];文汇报;2011年
6 计算机世界实验室 韩勖;当布线系统遭遇神经网络[N];计算机世界;2009年
7 曹建兵 李祖兵 特约记者 何天进 本报记者 于莘明;给导弹植入“神经网络”[N];科技日报;2005年
8 谭薇;“潮湿计算机”:拥有人类智慧的超级大脑[N];第一财经日报;2010年
9 韩婷婷;ICT强壮奥运“神经网络”[N];通信产业报;2007年
10 ;人老了,大脑仍能形成新的神经网络[N];新华每日电讯;2004年
中国博士学位论文全文数据库 前10条
1 马永涛;通信信道建模的神经网络优化技术研究[D];天津大学;2009年
2 周伟;关于多稳定回复式神经网络中的一些问题[D];电子科技大学;2010年
3 汪木兰;神经网络硬化实现的共性技术在电力传动中应用研究[D];合肥工业大学;2010年
4 徐芳;多稳定神经网络的动力学分析[D];电子科技大学;2011年
5 杨文宇;利用状态函数导数的脉冲神经网络新算法[D];大连理工大学;2013年
6 刘志祥;深部开采高阶段尾砂充填体力学与非线性优化设计[D];中南大学;2005年
7 戴雪龙;PET探测器神经网络定位方法研究[D];中国科学技术大学;2006年
8 马戎;智能控制技术在炼钢电弧炉中的应用研究[D];西北工业大学;2006年
9 张海仙;回复式神经网络的连续吸引子[D];电子科技大学;2010年
10 尹丽子;基于动态模型的神经网络稳定性研究[D];山东师范大学;2011年
中国硕士学位论文全文数据库 前10条
1 杨立儒;基于神经网络的电路故障诊断的研究与实现[D];解放军信息工程大学;2010年
2 刘兰兰;基于神经网络和遗传算法的H型钢粗轧工艺参数优化研究[D];山东大学;2011年
3 田鹏明;基于神经网络的振动主动控制研究[D];太原理工大学;2012年
4 姜宇;发动机裂解设备故障诊断技术的研究[D];吉林大学;2012年
5 邢远凯;基于决策树和遗传算法的神经网络研究及应用[D];浙江大学;2010年
6 高宝建;基于神经网络的月降水预报模型在洪泽湖的应用研究[D];南京信息工程大学;2012年
7 陈少华;基于Hopfield神经网络控制系统的研究[D];山东科技大学;2010年
8 来建波;基于神经网络的路段行程时间预测研究[D];云南大学;2011年
9 闫超;基于BP神经网络的煤矿深埋硐室软岩流变参数反演分析[D];安徽理工大学;2011年
10 段成均;时滞神经网络稳定性分析[D];重庆交通大学;2011年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026