收藏本站
《哈尔滨工程大学》 2016年
收藏 | 手机打开
二维码
手机客户端打开本文

基于C-R微分算子的复值神经网络学习算法研究

董键  
【摘要】:复值神经网络(CVNN)近些年已经得到了广泛的研究和应用,在工程、生物学和物理学等很多科学领域有着很大的应用价值。复值神经网络根据激活函数的不同,可以分为分离复值神经网络和全复值神经网络。分离复值神经网络,即激活函数是分离复函数的神经网络结构。这样虽然能保证神经元的输出是有界的,但激活函数不满足Cauchy-Riemann条件,所以没有复导数。全复值神经网络中的激活函数为解析函数,可以保证激活函数复可导性,便于计算。在实际应用过程中,经常需要解决复变量实值函数的非线性优化问题。这些问题的最优化往往需要目标函数的一阶或二阶近似,以产生一个新的下降方向。然而,这种方法不能应用于复变量实值函数,因为这类函数关于复自变量是非解析的,即对于非解析函数,是没有Taylor级数展开式的。为了克服这个问题,目标函数通常被定义为关于复自变量实部和虚部的函数,利用标准实值最优化算法。然而,这种方法破坏了复数数据的内部结构关系。因此我们将原有的目标函数进行扩展,将复自变量与其共轭作为一个整体来进行分析。我们利用C-R微分算子,得到非解析函数的复值Taylor级数展开式,并利用复值Taylor级数展开式,我们推广现有的实值最优化算法。本文研究了复变量实值函数的无约束最优化问题并将其应用于全复值神经网络之中。基于C-R微分算子,全面分析了复变量实值函数的广义复导数和Hessian矩阵的性质,得到非解析函数的复值Taylor展开式。旨在推导出复值最优化算法的迭代公式,并对算法的收敛性进行理论证明。本文研究了三种基于无约束最优化的复值学习算法。首先,介绍了复值牛顿法的推导过程。利用C-R微分算子,消除了 Schwartz对称性对复值神经网络中激活函数选取的限制,并对复值牛顿法的收敛性进行了证明;然后,从复变量和实变量之间的映射关系出发,推导了拟牛顿方程和复值DFP算法迭代公式,证明了复值DFP算法的可行性和收敛性;最后,我们定义了复向量组关于矩阵共轭的概念,推导了复值共轭梯度法公式,对算法的收敛性进行了分析。在数值模拟中,将算法应用于复值神经网络,通过对比现有的复值梯度下降法,验证算法的收敛效果。
【学位授予单位】:哈尔滨工程大学
【学位级别】:硕士
【学位授予年份】:2016
【分类号】:O175.3;TP183

【参考文献】
中国期刊全文数据库 前1条
1 周云,华祖耀,黄柯棣,陈传岩,张代兵;DIS中的坐标系统及坐标转换[J];计算机仿真;2000年06期
中国博士学位论文全文数据库 前2条
1 徐东坡;递归神经网络梯度学习算法的收敛性[D];大连理工大学;2009年
2 张丽;求解最优化问题的非线性共轭梯度法[D];湖南大学;2006年
【共引文献】
中国期刊全文数据库 前10条
1 杜宝江;丁磊;;基于MBD的装配工艺信息系统技术研究[J];中国水运(下半月);2017年12期
2 范林军;董红林;凌云翔;李崇东;;分布式仿真系统中的全局一致性问题研究[J];计算机工程与科学;2016年01期
3 杜宝江;林灵;徐刚;;分布式交互技术在虚拟培训中的研究与应用[J];信息技术;2015年06期
4 许乐;;坐标投影转换在自动化系统中的应用[J];科技视界;2015年17期
5 陈绍炜;孟祥禄;任磊;;地面动态跟踪精度试验中的坐标系变换研究[J];电子设计工程;2014年10期
6 杨超;阚宗晖;徐莎莎;华祖耀;;组网雷达模拟器数据融合中的航迹关联技术[J];火力与指挥控制;2012年11期
7 朱利超;徐君鹏;;支持自定义图标库的态势处理系统构建方法[J];舰船电子工程;2011年10期
8 唐大全,杨迎化;分布交互仿真的关键技术研究[J];计算机应用;2003年S2期
9 李自良,黄惠明,王乃卫;基于蒙特卡罗方法的误差传播与误差分配计算[J];装备指挥技术学院学报;2003年03期
10 周玉芳 ,刘光勇 ,程健庆;舰船分布交互仿真系统中的时空一致性技术[J];情报指挥控制系统与仿真技术;2001年07期
中国博士学位论文全文数据库 前3条
1 于倩男;杏南开发区精控压裂薄差储层渗流特征研究[D];东北石油大学;2017年
2 任思源;超声法气体温度场的TSR算法重建及实验研究[D];华北电力大学;2015年
3 王磊;造波机网络运动控制系统建模及控制技术研究[D];大连理工大学;2012年
【相似文献】
中国期刊全文数据库 前10条
1 胡永云;;复值量子测度及其积分[J];甘肃科学学报;2011年04期
2 许秀珍;;关于C-R条件教学之我见[J];阜阳师范学院学报(自然科学版);1992年02期
3 陈冬,来向荣;复值独立随机变量序列的收敛性[J];北京联合大学学报;2002年03期
4 来向荣,程维虎,陈冬;连续参数复值鞅的性质[J];北京联合大学学报;2001年03期
5 高云兰;孙炯;;一类六阶左定微分算子的谱[J];内蒙古工业大学学报(自然科学版);2008年01期
6 王明刚;许华;田立新;;微分算子的一类重要性质[J];佳木斯大学学报(自然科学版);2009年02期
7 刘金林;某些微分算子的应用(英文)[J];苏州大学学报(自然科学);1996年02期
8 姜颜伟,石忠;几种微分算子保持星像性的条件[J];齐齐哈尔师范学院学报(自然科学版);1997年01期
9 高峰;迁移理论中一类积—微分算子的谱分析[J];集美大学学报(自然科学版);2000年03期
10 杨瑞芳;一类具有离散谱的对称微分算子[J];系统科学与数学;2000年04期
中国重要会议论文全文数据库 前2条
1 荆海英;谢绪恺;荆芷萍;;广义微分算子系统[A];1991年控制理论及其应用年会论文集(上)[C];1991年
2 王朝珠;;广义动态系统的微分算子矩阵方法[A];1991年控制理论及其应用年会论文集(上)[C];1991年
中国重要报纸全文数据库 前1条
1 关衡;复值接舆醉 狂歌五柳前[N];甘肃经济日报;2000年
中国博士学位论文全文数据库 前10条
1 郑甲山;与次微分算子相关的非线性抛物型系统的定性研究[D];北京理工大学;2015年
2 杨炯;雅可比模形式及其微分算子[D];清华大学;2015年
3 周立广;几类微分算子的谱分析[D];内蒙古大学;2013年
4 郝晓玲;微分算子实参数平方可积解的个数与谱的定性分析[D];内蒙古大学;2010年
5 姚斯琴;对称微分算子的几类扩张问题[D];内蒙古大学;2013年
6 张茂柱;微分算子谱的离散性与离散谱分析[D];内蒙古大学;2012年
7 葛素琴;乘积微分算子的自伴性及特征值对边界的依赖性[D];内蒙古大学;2014年
8 杨传富;微分算子乘积的自伴边值问题与一类微分算子的谱特征[D];南京理工大学;2005年
9 高云兰;权函数变号的微分算子的谱[D];内蒙古大学;2005年
10 杨秋霞;几类权函数变号的微分算子的谱[D];内蒙古大学;2011年
中国硕士学位论文全文数据库 前10条
1 董键;基于C-R微分算子的复值神经网络学习算法研究[D];哈尔滨工程大学;2016年
2 曾旭;复值时滞系统的稳定性分析[D];西南大学;2016年
3 王元元;宽线性复值超限学习机的模型设计与性能分析[D];大连海事大学;2017年
4 周超;两类具有时滞的复值混沌系统的同步与控制[D];重庆师范大学;2017年
5 陈雷;复值快速独立分量分析算法研究[D];东北大学;2012年
6 肖依;模糊复值测度和模糊复值积分[D];天津师范大学;2010年
7 闫明明;不连续复值神经网络概周期性研究[D];山东师范大学;2017年
8 王小雁;几类微分算子谱的离散性[D];内蒙古大学;2013年
9 陈文娟;一类2n阶具有转移条件的对称微分算子的特征值问题[D];内蒙古大学;2015年
10 刘艳;高阶椭圆微分算子相连的Hardy空间的刻画[D];华中师范大学;2015年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026