收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

离散Hopfield模型神经网络的对称性研究

董继扬  
【摘要】: 对称性在自然界中处处可见,知觉系统从在变化着的环境中提出相对稳定的性质这一功能就意味着某种变换不变性的存在。在我们了解自然的尝试中,对称性提供了一个强有力的工具。 本文将人工神经网络视为神经元的结构集,并从这个基本观点出发,从三个方面,即对称性的分析、表示以及计算,对Hebb型的离散Hopfield模型神经网络进行全面的、深入的研究,揭示了Hebb法则这种特殊的存储规则的机理,并以此来达到加深对整个网络的联想记忆机理认识的目的。 在对Hebb学习法则的离散Hopfield模型神经网络对称性分析中,我们以等距变换群G=Z_2(?)S_n为手段,研究了网络状态空间在群G作用下各点的运动情况,证明了群G作用下的不变性。证明了当神经元的激活函数f为奇函数时,Hebb法则下存储样本集X的对称性S_X、网络对称性S_H以及连接矩阵对称性S_W三者之间满足S_X=S_w=S_H的关系;同时,我们还证明了:网络稳定态集VF同一S_H轨道中的两个稳定态的动力学行为(能量和吸引域大小)相同;两个等距网络H和H′1=g·H,(?)g(?)G的对称性S_H和S′_N的关系为S′_H=g·S_H·g~(-1);等距变换不会改变网络稳定态集的动力学性质等一系列的结论。所有这些研究结果表明了Hebb学习法则是通过调整网络的连接矩阵,使得其的结构的对称性包含存储样本集的对称性这一存储机理。这就是联想记忆网络所蕴含的深层的物理效应。这一点与Stefan Reimann通过研究网络的整体动力学性质来分析联想记忆网络所得的结论是相同的。利用这种对称性关系,既可以揭示“学习就是寻找样本集对称性”这一学习的内涵,又可以在联想记忆网络的分析与设计中减小连接权计算的复杂度。 将神经网络看作具有对称性的动力学系统就产生了相应的几何方法。本文在这方面所做的工作如下:首次将一些特殊网络的结构和吸引子集的置换对称性用三维欧氏空间中的一些几何图来表示,分别称之为几何结构图和吸引子图;给出了网络对称性的几何 化条州即相应的对称性群为可迁群):并惜助网络的几何结构图和吸弓吁图分析网络的动 力学性质;此外,我们提出了用简单的具有一定对称性的小网络按照群的直和、半直积 和直积的方式组合成较大的网络的方法,探讨了这些小网络和所组成的大网络的一些动 力学性质的关系,如稳定态的个数、各稳定态的回忆性质等,为较大网络的设计提供一 些理论依据。 此外,将对称性应用于网络的分析与设计时,不可避免地要解决网络对称性的计算 问题。我们指出遍历法求解连接矩阵或样本集置换对称性所存在的计算复杂度问题,提 出应用遗传算法计算样本集和连接矩阵置换对称性的方法。并用 Wsual C--------语言分别设 计了求解网络连接矩阵和给定样本集的置换对称性相应的遍历法和遗传算法的程序,在 PC机上进行数值模拟计算,比较遍历法和遗传算法的计算结果。结果表明,用遍历法求 解高维网络的置换对称性的计算复杂度为O(12”),因此实际上是不可能完成的,而遗传 算法却能在多项式时间内求出大部分的对称置换操作,再利用群本身的结合律,便可能 计算出所有的对称置换操作。这为对称性方法在联想记忆网络设计的应用提供了向高维 网络拓展的实际可能性。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 李尤发;杨守志;;Armlet多小波的构造算法[J];数值计算与计算机应用;2007年04期
2 王力;;提高AutoCAD绘图效率方法与技巧[J];装备制造技术;2008年06期
3 侯宇;;正交复滤波器与小波的数值构造[J];中国计量学院学报;2008年03期
4 祝强;徐瑾;张铎;张建华;;小波模极大值边缘检测算法研究[J];武汉理工大学学报(信息与管理工程版);2008年06期
5 张秀梅;王利光;霍新霞;齐文辉;;C_(20)富勒烯分子异构体的~(13)C NMR谱特征比较[J];微纳电子技术;2009年04期
6 许兆;王珂;李卓;杨兆升;;基于二次同余映射的保奇偶对称交织器设计[J];无线通信技术;2009年01期
7 张付仁;刘浩;;具有高对称性的小世界网络模型研究[J];计算机工程;2011年05期
8 刘洪江;汪仁煌;何最红;李学聪;;中心线模式Snake算法对细长目标的提取[J];光电工程;2011年09期
9 黄美纯;硅基半导体光电子材料的第一性原理设计[J];厦门大学学报(自然科学版);2005年06期
10 黄斌茂;张利;;基于自适应步长的直线生成算法[J];清华大学学报(自然科学版);2006年10期
11 高焕堂;;软件美何在 把酒问对称[J];程序员;2007年09期
12 付青青;;图像压缩中小波基的选择技术研究[J];电脑与信息技术;2007年05期
13 王丽娟;吴陈;;一种具有对称性的变精度粗集模型[J];江南大学学报(自然科学版);2007年06期
14 付波;权轶;程琼;;一种快速计算Zernike矩的混合算法[J];华中科技大学学报(自然科学版);2008年11期
15 涂建华;石志广;肖怀铁;;一种基于FFT和对称性的目标运动补偿新方法[J];雷达科学与技术;2009年01期
16 吴学超;;非对称性相关技术应用于商业数据分析的研究[J];福建电脑;2010年12期
17 楼剑涛;王秀和;;基于对称的反走样直线生成算法[J];计算机工程与应用;2011年01期
18 刘仁臣;谢国秋;;正三角形转动惯量和直导线场强的微元解法和对称巧解[J];安徽师范大学学报(自然科学版);2010年04期
19 刘汉军,段立松,董永峰,马春利,张程祥;随机非对称Hopfield模型中恢复带性质研究[J];吉林大学学报(理学版);2003年01期
20 于培彦;检验分布对称性的一个方法[J];宁夏大学学报(农业科学版);1988年02期
中国重要会议论文全文数据库 前10条
1 罗绍凯;;奇异正则约束系统的非Noether对称性与非Noether守恒量[A];中国力学学会学术大会'2005论文摘要集(下)[C];2005年
2 史佳;;RS3PE综合征1例报告[A];浙江医学会2007年风湿病年会论文汇编[C];2007年
3 郭伟;赵平;周卫;卫杰;李喜德;周华;刘亮;闫小彬;;腰椎间盘突出症患者症状学评分与脊柱对称性指标之间的相关性研究[A];第十六届全国中西医结合骨伤科学术研讨会暨中西医结合手法治疗骨伤科疾病新进展学习班论文汇编[C];2008年
4 肖建春;马克俭;董石麟;黄勇;田子东;;群论在具有多种对称性网壳的非线性分析中的应用[A];第八届空间结构学术会议论文集[C];1997年
5 徐升;;用零演化矢量研究微分方程组系统的对称性和不变量[A];1994年中国地球物理学会第十届学术年会论文集[C];1994年
6 李长安;;长江中游资源环境的对称性与中国中部经济“金三角”建设刍议[A];认识地理过程 关注人类家园——中国地理学会2003年学术年会文集[C];2003年
7 史文雷;吕跃进;徐改丽;郭欣荣;;模糊互补判断矩阵的对数最小二乘法[A];第四届中国不确定系统年会论文集[C];2006年
8 张一方;;各种粒子间的对称性和高能时的统一方程[A];数学·物理·力学·高新技术研究进展——1998(7)卷——中国数学力学物理学高新技术交叉研究会第7届学术研讨会论文集[C];1998年
9 张臻;陈明华;徐金华;;进行性对称性红斑角化症一例[A];2008全国中西医结合皮肤性病学术会议论文汇编[C];2008年
10 周石鹏;肖柳青;;经济系统的Vakonomic模型[A];中国数学力学物理学高新技术交叉研究学会第十二届学术年会论文集[C];2008年
中国博士学位论文全文数据库 前10条
1 董继扬;离散Hopfield模型神经网络的对称性研究[D];厦门大学;2001年
2 程伟;具有二十面体群及四面体群对称性的富勒烯的光谱性质研究[D];吉林大学;1999年
3 熊传华;AdS_5(?)S~5 背景中IIB超弦隐藏对称性的研究[D];西北大学;2004年
4 贺彦章;对若干类型少体系统的研究[D];中山大学;2001年
5 吴热冰;基于对称性的无穷维量子力学系统的建模与控制问题研究[D];清华大学;2004年
6 刘益民;半导体量子点的理论研究及磁场与杂质的效应[D];中山大学;2004年
7 蒋建民;对称与动作细化[D];中国科学院研究生院(成都计算机应用研究所);2006年
8 陈浩;(?)_(0,n)上的S_n作用[D];四川大学;2006年
9 周倩;非线性晶格中的离散呼吸子研究[D];北京师范大学;2009年
10 白本锋;群论在二维光栅理论及其傅立叶模态法中的应用[D];清华大学;2005年
中国硕士学位论文全文数据库 前10条
1 王静;单面约束系统的对称性与非Noether守恒量[D];中国石油大学;2007年
2 翁玉权;超细长弹性圆截面杆模型的Noether对称性、Lie对称性及其守恒量[D];青岛大学;2008年
3 胡力中;C_m×C_n×C_k的上、下强迫测地数[D];兰州大学;2009年
4 张淑晓;对称性在结构化学中的应用[D];华中师范大学;2001年
5 李旭光;关于分数阶不均衡Hopfield模型混沌动力学行为遍历性的研究[D];电子科技大学;2004年
6 钟兰花;二维声子晶体中对称性对声波带隙的影响[D];广东工业大学;2006年
7 衣运玲;针刺对药物治疗糖尿病对称性多发性周围神经病变的影响的观察[D];南京中医药大学;2004年
8 黎林;金融衍生工具的税收套利问题研究[D];厦门大学;2007年
9 肖元珍;限选式“不是A,就是B”分析[D];暨南大学;2005年
10 徐强;赝自旋对称性的理论研究[D];安徽大学;2005年
中国重要报纸全文数据库 前10条
1 ;美妙的对称性[N];湖北日报;2003年
2 金典证券网辑;周期性和对称性[N];山西经济日报;2002年
3 刘永明;论现代商业银行发展与管理的对称性运营[N];金融时报;2007年
4 本报记者 陈建辉;城市分布的对称性规律(下)[N];经济日报;2004年
5 罗兴华;对称性的美学价值[N];市场报;2003年
6 蔡仲 南京大学哲学系教授;从“对称性”到有限论[N];中国图书商报;2004年
7 山东临沭一中 臧甲亮;函数对称性的研究[N];学知报;2011年
8 陈建辉;城市分布的对称性规律 (上)[N];经济日报;2004年
9 秦晓新;类风湿关节炎不可怕[N];家庭医生报;2008年
10 天津 吕建刚;根据电路对称原理修复及改进护眼灯[N];电子报;2007年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978