关于多稳定回复式神经网络中的一些问题
【摘要】:
自上世纪80年代以来,作为研究和应用上的一个热点,神经网络一直吸引了众多学者、工程师和一流的学术研究机构的关注,许多重要的研究成果被应用于经济、军事、工程、医学、金融等领域中。
多稳定性是神经网络研究中的一个重要性质。单稳定的神经网络通常只有一个稳定的平衡点,而多稳定的神经网络则具有多个稳定的平衡点。单稳定神经网络计算能力是有限的,只能应用某些特定优化问题,对于优化问题自身存在多个最优解则通常无能为力。因此在对多稳定神经网络的研究和应用,也是神经网络发展的必然趋势和结果。
本论文研究离散时间类型的多稳定回复式神经网络模型。和连续时间类型的神经网络相比,离散时间类型神经网络在计算机直接模拟和数字线路硬件的实现上更容易实现。
全文按照神经网络的数据处理类型,可分为两方面的研究:
1.关于复数神经网络的研究
在复数神经网络中,网络的输入输出,权值和神经元激励函数,都可以是复值的。复数神经网络在电子工程、信息学、控制工程、生物工程等等许多领域都有非常重要的应用。本文则关注于复数回复式神经网络的收敛性分析,研究内容包括:
(1)提出了一种基于多值神经元(MVN)激励函数的回复式神经网络离散模型,以及对应的同步更新迭代算法,并给出了网络稳定和完全收敛需要满足的条件。
(2)提出一种基于复值线性阈值(CLT)神经元激励函数的回复式神经网络离散模型,给出了网络的有界性,稳定性和完全收敛的条件,成功把原先实数领域的多稳定性研究结果推广到复数域上,为后续的研究和应用提供了一定的理论基础。
2.关于实数神经网络的研究和应用
这里关注基于线性阈值(LT)神经元激励函数的回复式神经网络,研究内容包括:
(1)层竞争模型具有感知分组的功能。这里提出了一种层竞争神经网络离散模型,除了给出稳定性分析和动力学分析,还和现有的连续时间类型的层竞争神经网络进行比较,并提出了一种同步层竞争(SCLM)迭代算法,在具有相似的存储容量要求下,实验表明新算法的速度大大优于现有的异步层竞争(ACLM)迭代算法。此外,还将SCLM算法和分块组合技术相结合,尝试用于解决医学图像分割问题。
(2)使用LT神经网络离散模型尝试用于解决旅行商(TSP)问题。这里给出了网络的有界性和完全收敛的条件,相对传统的Hopfield网络,其能保证获得的路径都是有效路径。进一步将该模型与逃逸局部最小的算法结合,与现有使用Lotka-Volterra神经网络解决TSP问题的方法比较,实验证明新方法性能更好。