收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

神经元传输函数和网络噪音对联想记忆反馈网络动力学特性的影响

王瑞敏  
【摘要】: 反馈神经网络的突出特点是具有联想记忆功能,易于硬件实现,因此在诸多领域得到非常广泛的应用。同时,反馈神经网络作为一类典型的高维非线性动力学系统,引起了非线性动力学领域的科研工作者的高度关注。一方面,我们可以应用非线性动力学近年来的研究成果理解网络的特性、提高网络的功能,另一方面,反馈网络本身具有丰富的动力学特性和现象,因而为这一领域提供了一个研究高维动力学系统复杂行为的典型模型。 本学位论文从反馈神经网络的吸引子所对应的局域场分布入手来研究网络结构与网络性能之间的关联性,表明网络的特性主要决定于记忆模式吸引子的局域场分布,同时也会受到神经元传输函数的影响,而传输函数的影响效果又和局域场分布密切相关。本文重点研究两种反馈网络,一类是基于Hebb规则设计的Hopfield神经网络,另一类是基于最近提出的一套设计神经网络的整体规则[Zhao,Phys.Rev.E,70,066137(2004)]。两种网络中,记忆模式吸引子的局域场和伪记忆模式吸引子的局域场分布在不同的区域,但重叠程度各不相同,根据这一现象,提出了传输函数以及随机噪音影响网络性能的机制。研究结果表明,连续传输函数的应用的确如以前的研究者发现的那样可以在一定程度上消除网络的伪吸引子,但是消除并不彻底;消除伪吸引子的根本方法还在于利用整体设计方法控制记忆模式吸引子对应的局域场的分布,只要分布合适,伪吸引子就可以完全不出现。一般认为连续传输函数中增益因子的作用和温度,也就是和网络中的随机噪音具有一定的相似性,有些研究者虽然也指出了两者的不同,但是详细的分析和机制并未搞清楚。本论文的另一个重点是详细分析增益因子和噪音起作用的方式,搞清楚了它们的相同和不同之处,并因此指出如何更好地利用噪音改善网络的性能。同时,为了深入理解网络结构与网络性能的联系,本文也研究了网络权值矩阵本征值谱在特定的设计规则下随设计参数的变化情况,比较了本征值谱与随机矩阵本征值谱的偏离。本文各章安排如下: 第一章简要介绍了神经网络的研究背景,包括神经网络的起源、发展、类型,以及对神经网络理论研究作出显著贡献的一些物理学家的工作,如Gardner,Little等人的工作做了简要介绍。 第二章详细介绍了两种具有联想记忆的反馈神经网络,一种是著名的Hopfield网络,另外一种是最近由赵鸿教授提出的整体优化网络,介绍了两种方法的具体实现算法以及这两种网络的一些主要特性和动力学行为。 第三章研究连续传输函数对联想记忆反馈神经网络功能的影响。给出了不同规则设计下记忆模式吸引子和伪吸引子对应的局域场分布,提出局域场分布特征决定神经元传输函数的作用,给出传输函数影响网络性能和动力学行为的机制。 第四章研究噪音对联想记忆神经网络功能的影响。在神经网络动力学演化方程中加入噪音来考察网络的动力学特性以及功能的改善,说明噪音的作用取决于两种吸引子也就是记忆模式吸引子和伪吸引子对应的局域场分布,同时给出如何利用噪音提高和改善网络的性能。 第五章研究神经网络中的本征值谱。由于加入设计信息,使得网络的权值矩阵对随机矩阵有偏离,因此其本征值谱也表现出一些有趣的行为。这一章初探性的研究试图将随机矩阵理论与神经网络研究在一定的程度上结合起来,研究本征值谱对随机矩阵本征值谱的偏离,能帮助更深入理解神经网络中复杂的动力学特性。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 冯乃勤;田勇;王鲜芳;秦利娟;乔锟;;基于分组划分的形态学异联想记忆研究[J];河南师范大学学报(自然科学版);2012年02期
2 冯乃勤;敖连辉;王善侠;王双喜;田勇;;形态学联想记忆在图像联想识别上的应用[J];河南师范大学学报(自然科学版);2010年03期
3 康辉,杨昌喜,母国光,吴仲康;利用掺杂铌酸锂作相位共轭镜的全光学联想记忆系统[J];中国激光;1991年03期
4 西广成;联想记忆的一种随机理论[J];控制理论与应用;1998年05期
5 陈桂英;;带有阈值的广义模糊双向联想记忆网络的稳定性分析[J];山东大学学报(理学版);2014年01期
6 杨天奇;故障模式的联想记忆和识别分析[J];暨南大学学报(自然科学与医学版);2000年03期
7 姜惠兰,孙雅明;异联想记忆Hopfield神经网络的模型、算法及性能[J];系统工程理论与实践;2005年05期
8 彭建华;于洪洁;;神经系统中随机和混沌感知信号的联想记忆与分割[J];物理学报;2007年08期
9 黄秉宪;主动联想记忆神经网络模型[J];生物物理学报;1994年03期
10 苗振江,袁保宗;扩展双向联想记忆神经网络及其应用[J];高技术通讯;1995年07期
11 高隽,曹先彬,王煦法;对改进的联想记忆器的研究[J];中国科学技术大学学报;1999年01期
12 王俊松,李云栋,崔世钢,邴志刚;基于牛顿前向插值公式的联想记忆系统[J];天津师范大学学报(自然科学版);2003年02期
13 陈苒,冯嘉礼;联想记忆激发机制的性质坐标表达[J];广西师范大学学报(自然科学版);1996年02期
14 汪涛,俞瑞钊;联想记忆网络的学习:基本思路和实现[J];高技术通讯;1995年04期
15 赵洪涌,徐道义;具有分布时滞的双向联想记忆神经网络稳定性分析(英文)[J];四川大学学报(自然科学版);2001年04期
16 冯乃勤;秦利娟;王鲜芳;田勇;祝小静;;形态学联想记忆在内隐学习中的应用[J];河南师范大学学报(自然科学版);2013年03期
17 叶东毅,陈咏;基于外积取等原则的联想记忆网络的局限性分析[J];福州大学学报(自然科学版);1997年06期
18 周冬明,曹进德,李继彬;连续反馈联想记忆的吸引域和指数收敛速度的估计[J];应用数学和力学;2001年03期
19 吴集林,赵怡,王建根;再谈基于分类思想的联想记忆神经网络[J];中山大学学报(自然科学版);2001年06期
20 胡军浩,李燕;二阶时滞的双向联想记忆神经网络的稳定性分析[J];中南民族大学学报(自然科学版);2004年04期
中国重要会议论文全文数据库 前10条
1 赵旺兄;乔清理;王丹;;海马CA3区自联想记忆与异联想记忆的建模与仿真[A];天津市生物医学工程学会第29届学术年会暨首届生物医学工程前沿科学研讨会论文集[C];2009年
2 铁锦程;许晓鸣;刘慧;张钟俊;;一种改进的多重训练双向联想记忆算法[A];1996中国控制与决策学术年会论文集[C];1996年
3 徐宁寿;白云飞;;基于最小范数解的联想记忆系统训练和局部泛化算法[A];1996年中国控制会议论文集[C];1996年
4 吴锡生;冉天保;王士同;;一种新颖的模糊形态联想记忆网络[A];2006年全国开放式分布与并行计算学术会议论文集(一)[C];2006年
5 徐耀群;包丹;;基于外积法学习的联想记忆网络研究[A];2007中国控制与决策学术年会论文集[C];2007年
6 杨静;谢昭;孙永宣;;稀疏联想记忆神经网络动力学演化[A];中国仪器仪表学会第十一届青年学术会议论文集[C];2009年
7 宫向阳;涂奉生;;联想记忆神经网络的两种设计方法[A];1996中国控制与决策学术年会论文集[C];1996年
8 殷彤;白云飞;;基于新型联想记忆系统的直接仿人操纵智能控制[A];1994年中国控制会议论文集[C];1994年
9 段书凯;刘光远;;网络参数对混沌联想记忆特性的影响[A];第十一届全国信号处理学术年会(CCSP-2003)论文集[C];2003年
10 徐宁寿;杨志鸿;;采用自适应感受野的广义尖帽样条函数型联想记忆系统及其应用[A];1996年中国控制会议论文集[C];1996年
中国博士学位论文全文数据库 前6条
1 吴锡生;基于模糊形态双向联想记忆网络的研究[D];南京理工大学;2005年
2 张道强;基于核的联想记忆及聚类算法的研究与应用[D];南京航空航天大学;2005年
3 王剑;一类新型联想记忆神经网络研究[D];华南理工大学;2003年
4 周铁军;多向联想记忆神经网络理论研究[D];中南大学;2007年
5 杨静;稀疏互联联想记忆及其复杂网络实现[D];合肥工业大学;2009年
6 王瑞敏;神经元传输函数和网络噪音对联想记忆反馈网络动力学特性的影响[D];兰州大学;2006年
中国硕士学位论文全文数据库 前10条
1 田勇;形态学联想记忆框架的泛化研究[D];河南师范大学;2012年
2 黄少芳;利用动态核的形态联想记忆网络及其应用研究[D];江南大学;2006年
3 王双喜;形态学联想记忆抗噪声的研究[D];河南师范大学;2011年
4 冉天保;模糊形态尺度空间联想记忆的研究与应用[D];江南大学;2007年
5 颜本伟;基于小世界体系的模糊自联想记忆神经网络研究[D];西南大学;2011年
6 于晓;人工脑的一种具有期望容错域的联想记忆神经网络模型研究[D];青岛大学;2010年
7 吴丽英;高中英语联想记忆策略探究[D];福建师范大学;2008年
8 王一先;基于联想记忆神经网络的形状识别系统应用研究[D];合肥工业大学;2002年
9 秦利娟;形态学联想记忆对内隐学习的模拟研究[D];河南师范大学;2013年
10 朱晓生;四元数联想记忆神经网络的稳定性及其学习算法[D];大连理工大学;2012年
中国重要报纸全文数据库 前2条
1 大任;英语“联想记忆”词条引发版权诉讼[N];中国新闻出版报;2008年
2 梁锋;《掌握英语8000词》赢在创新[N];中国图书商报;2001年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978