反馈神经网络的结构设计、学习算法及其应用研究

【摘要】：反馈神经网络的理论研究和实际应用涉及人工智能、信号处理、非线性控制等众多领域。目前国内外对反馈神经网络的研究集中在应用领域,而对反馈网络的理论问题研究则相对欠缺。本文对反馈王络的若干理论问题进行了较为深入的研究,内容涉及反馈网络的学习算法和网络结构设计,研究对象为反馈多层感知网络、反馈TGK网络和网络群等。 本文的主要工作如下: (1) 设计了一种简洁的局部反馈TSK网络。该网络能解释成简洁的If-Then规则,从而保持了TSK网络的可理解性。这使该网络明显优于Chia-Feng Juang和P. A. Mastorocostas所设计的反馈网络; (2) 设计了一种基于二阶运算的局部反馈TSK网络。该网络同样能解释成简洁的If-Then规则,从而保持了TSK网络的可理解性。仿真表明该网络有良好的动态系统处理能力,说明设计TSK网络时采用二阶运算是可行的; (3) 提出了一种基于GA的TSK网络结构优化算法。该算法利用了TSK网络的结构特点,从而显著提高了算法的执行效率。仿真表明该算法能有效地简化TSK网络的结构; (4) 提出了RMLP网络动态导数的快速计算公式。与G. V. Puskorius所给动态导数公式相比,本文方法的计算复杂度显著降低。仿真时,本文方法的运算时间仅为前者的30%～60%,而存储量仅为前者的50%左右; (5) 提出了UKF训练RMLP网络的快速算法,这是UKF在神经网络领域中的新工作。仿真时,本文算法能节约80%的计算时间;对UKF(2N_w+1),本文算法能节约90%的存储空间; (6) 关于网络群的负相关学习算法,本文证明了一个命题。该命题揭示出负相关算法的实质是实现多目标优化,并在概念和实现两方面简化了负相关算法; (7) 把DEKF算法用于训练模糊多层感知网络。这既为该网络找到了一种高效的学习算法,又拓展了DEKF算法的应用范围; (8) 改进了A. G. Parlos提出的自适应状态滤波方法。本文所作改进使滤波系统易于实现,并增强了滤波系统的稳健性。