收藏本站
《山东师范大学》 2011年
收藏 | 手机打开
二维码
手机客户端打开本文

人工神经树网络模型的优化研究与应用

齐峰  
【摘要】:人工神经网络是模拟生物神经网络进行信息处理的一种数学模型,是由大量神经元广泛互连而成的网络,其目在于通过模拟大脑的某些功能机制,实现一些特定的功能。人工神经网络以其具有大规模并行处理、容错性、自组织和自适应能力等特点,己成为解决复杂问题的有效工具。目前,已存在的神经网络模型有很多,其中多层前馈神经网络是研究和应用较多的模型之一。它是由简单神经单元构成的具有明显层次结构的网络模型,且有良好的非线性品质,灵活有效的学习方式,较强的非线性系统模拟能力,因此被广泛的应用于系统辨识、数据挖掘、信号处理、故障诊断等领域。尽管Hornik等证明了仅需一个具有单隐含层的前馈神经网络就可以逼近任意复杂度的函数,但是如何找到合理的神经网络结构和相应参数取值却是一个NP-hard问题。因此,多层前馈神经网络仍然存在一些难题:首先,在网络拓扑结构设计方面,网络隐层数及各隐层隐节点数的选择,通常根据实际问题采用“经验法”或“适凑法”来确定,具有较强的不确定性,然而神经网络的泛化能力很大程度上取决于神经网络拓扑结构的设计,因此传统网络结构设计方法容易导致神经网络的泛化能力差;在网络参数优化方面,传统的基于梯度下降的误差反传算法虽然有良好的数学理论支撑,但是仍然存在收敛速度慢、易陷入局部最优、对参数初始值敏感等缺点,极大的限制了多层前馈神经网络的应用。 针对多层前馈人工神经网络的特点、存在的问题以及相关技术的研究趋势,本论文研究了一种新的基于树编码的人工神经网络模型:神经树网络模型及其优化问题,并对其在数据挖掘领域中的典型应用做了深入的探讨。本文主要研究内容概述如下: 1、针对神经树网络模型在实际应用中遇到的问题及特点,从以下两个方面对神经树网络模型的描述进行研究和改进: (1)对神经树网络模型定义的改进:解决了模型中函数节点的孩子节点中终端节点重复导致过多无效个体产生的问题以及神经树网络模型的最大深度设置问题。 (2)根据神经树网络模型的自身特点,给出了一种新的神经树网络模型元组描述法,为神经树网络模型提供了一个方便和科学的描述方法。 2、通过研究目前关于神经树网络模型拓扑结构和参数已有的优化方法,从以下三个方面对其优化方法进行研究和改进: (1)在神经树网络模型拓扑结构优化方面:提出了基于积木块库的改进遗传规划算法、基于层次可变概率向量的PIPE算法和基于树编码的粒子群优化算法。相关仿真实验表明,上述方法可以有效的减少进化过程中无效个体的产生,提高神经树网络模型的进化收敛速度和误差精度。 (2)在神经树网络模型参数优化方面:引入差分进化算法,该算法具有控制参数少、实现容易、不易陷入局部极小等特点,非常适合神经树网络模型的参数优化。 (3)在神经树网络模型拓扑结构优化和参数优化协调方面:针对目前先拓扑结构优化后参数优化学习策略可能产生的“干扰适应度评价”问题,提出了一种改进的BGP算法,实现了神经树网络模型拓扑结构和参数的同时优化。相关仿真实验表明,该算法能有效的提高神经树网络模型的进化收敛速度和误差精度。 3、结合集成学习提出了神经树网络集成的概念,对神经树网络集成在数据挖掘领域中的分类和预测问题上的应用进行了研究并提出了若干相关模型: (1)在分类问题方面:提出了一种以神经树网络模型为基本分类器的神经树网络集成方法,以“输出结果处理法”为主要研究对象,构建了基于纠错码的神经树网络集成分类模型,同时给出了该集成分类模型的算法设计和工作流程,最后在若干UCI数据集上对该集成分类模型的有效性和优越性进行了实验验证;另外,提出了基于Bagging和Boosting的神经树网络集成分类模型,同时给出了两种集成分类模型的算法设计及其在若干UCI数据集上的仿真实验对比。 (2)在预测问题方面:提出了基于Bagging和Boosting的神经树网络集成预测模型,并以非线性函数模拟为应用对象,与相关模型的性能分别进行了仿真实验对比。 4、根据神经树网络模型研究的实验需求,结合面向对象技术和软件Matlab R2008a,在Visual Studio .NET 2008开发环境中以C#语言为基础,构建了神经树网络模型仿真实验平台。该平台具有实验数据预处理、神经树网络模型构建、神经树网络模型优化算法集成以及实验结果图形化展现等功能。最后,该仿真实验平台被用于解决房地产价格指数预测和铁路客运量预测两个实际问题。
【学位授予单位】:山东师范大学
【学位级别】:博士
【学位授予年份】:2011
【分类号】:TP183

知网文化
【引证文献】
中国硕士学位论文全文数据库 前6条
1 张静;三峡库区植被指数与气象因子相互关系研究[D];西南大学;2012年
2 施永豪;基于CCGA优化的ANN信号调制模式识别[D];西南交通大学;2012年
3 丁德豪;单塔斜拉桥模型修正研究[D];西南交通大学;2012年
4 郭青;基于DE优化的神经网络信号调制识别研究[D];西南交通大学;2012年
5 周婷;基于改进Hopfield网络的注塑模具制造车间生产调度的研究[D];华南理工大学;2012年
6 范恒冬;基于神经网络模型的我国商业银行体系风险预警研究[D];安徽大学;2013年
【参考文献】
中国期刊全文数据库 前10条
1 裴浩东,苏宏业,褚健;多层前向神经网络的权值平衡算法[J];电子学报;2002年01期
2 高海兵,高亮,周驰,喻道远;基于粒子群优化的神经网络训练算法研究[J];电子学报;2004年09期
3 吴建鑫,周志华,沈学华,陈兆乾;一种选择性神经网络集成构造方法[J];计算机研究与发展;2000年09期
4 贺一;刘光远;雷开友;贺三;邱玉辉;;多层前向神经网络的自适应禁忌搜索训练[J];计算机科学;2005年06期
5 周志华,陈世福;神经网络集成[J];计算机学报;2002年01期
6 王正群,陈世福,陈兆乾;并行学习神经网络集成方法[J];计算机学报;2005年03期
7 高雪鹏,丛爽;BP网络改进算法的性能对比研究[J];控制与决策;2001年02期
8 何永勇,褚福磊,钟秉林;基于进化计算的神经网络设计与实现[J];控制与决策;2001年03期
9 谢晓锋,张文俊,杨之廉;微粒群算法综述[J];控制与决策;2003年02期
10 谢晓锋,张文俊,张国瑞,杨之廉;差异演化的实验研究[J];控制与决策;2004年01期
【共引文献】
中国期刊全文数据库 前10条
1 张彤;王建平;孟改样;;异因同果关联神经网络在工程造价中的应用研究[J];四川建筑科学研究;2009年02期
2 马宁;李斌;;基于神经网络集成的车牌字符识别[J];安徽广播电视大学学报;2012年02期
3 李豹;;并行神经元集成在风险评估中的应用[J];安徽工程科技学院学报(自然科学版);2009年04期
4 许小健;张金轮;;微进化算法[J];安徽工程科技学院学报(自然科学版);2010年04期
5 ;Multi-swingby optimization of mission to Saturn using global optimization algorithms[J];Acta Mechanica Sinica;2009年06期
6 ;A Preliminary Application of the Differential Evolution Algorithm to Calculate the CNOP[J];Atmospheric and Oceanic Science Letters;2009年06期
7 翟剑锋;;基于PSO的RBF神经网络在教学质量评价中的应用[J];信息安全与技术;2012年05期
8 汤丽华;;BP神经网络在花凉亭水库渗流监测中的应用[J];安徽水利水电职业技术学院学报;2012年02期
9 许小健;干洪;张金轮;;差分进化算法及其在固结系数计算中的应用[J];地下空间与工程学报;2010年05期
10 王亮;胡静涛;;基于神经网络的CMP过程智能R2R预测控制[J];半导体技术;2012年04期
中国重要会议论文全文数据库 前10条
1 冯羽;马凤山;魏爱华;赵海军;郭捷;;灰色系统与神经网络组合模型在地下水水位预测中的应用[A];中国科学院地质与地球物理研究所第11届(2011年度)学术年会论文集(中)[C];2012年
2 刘羿彤;付梦印;高宏斌;;一种改进的PSO算法[A];第二十六届中国控制会议论文集[C];2007年
3 李曙光;;粒子群算法在高速公路多路径费用拆分方法研究[A];第二十六届中国控制会议论文集[C];2007年
4 范业坤;梁新荣;;基于粒子群优化的高速公路匝道PI控制器[A];第二十七届中国控制会议论文集[C];2008年
5 丛亮;胡成全;郭宗鹏;姜宇;沙丽华;;基于模拟退火思想的基本粒子群算法改进[A];第二十七届中国控制会议论文集[C];2008年
6 李琨;王晓东;刘会景;张云生;苗琦;;瓦斯“冒大数”及其神经网络滤波器的研究[A];第二十七届中国控制会议论文集[C];2008年
7 孔笋;陈增强;;基于差分进化的QoS组播路由算法[A];第二十九届中国控制会议论文集[C];2010年
8 龚鹍;邓方;陈杰;;基于自适应差分进化算法和傅里叶神经网络的电子罗盘的标定[A];中国自动化学会控制理论专业委员会B卷[C];2011年
9 王亚楠;陈杰;甘明刚;;基于差分进化的改进粒子滤波目标跟踪算法[A];中国自动化学会控制理论专业委员会C卷[C];2011年
10 王伟;张航;罗大庸;;基于核模糊C均值聚类和局部建模方法的烟气含氧量软测量模型[A];中国自动化学会控制理论专业委员会C卷[C];2011年
中国博士学位论文全文数据库 前10条
1 于化龙;基于DNA微阵列数据的癌症分类技术研究[D];哈尔滨工程大学;2010年
2 孙明;基于小波和迟滞的混沌神经网络及其应用[D];哈尔滨工程大学;2010年
3 谭佳琳;粒子群优化算法研究及其在海底地形辅助导航中的应用[D];哈尔滨工程大学;2010年
4 吴德烽;计算智能在三维表面扫描机器人系统中的应用研究[D];大连海事大学;2010年
5 曲建华;基于群体智能的聚类分析[D];山东师范大学;2010年
6 王正家;ACA互连的多因素作用分析与性能优化[D];华中科技大学;2010年
7 蒋鼎国;无线传感器网络农业信息监控系统设计与数据融合研究[D];江南大学;2010年
8 朱少敏;多媒体数字水印若干关键算法研究[D];中国电力科学研究院;2010年
9 陈文正;保险公司债券投资研究[D];南开大学;2010年
10 许伟;基于进化算法的复杂化工过程智能建模方法及其应用[D];华东理工大学;2011年
中国硕士学位论文全文数据库 前10条
1 王永;消防单兵综合信息采集系统研究[D];山东科技大学;2010年
2 江达秀;基于HMAX模型的人脸表情识别研究[D];浙江理工大学;2010年
3 李朋勇;基于全矢高阶谱的故障诊断方法及其应用研究[D];郑州大学;2010年
4 王岩;混凝土受氯离子侵蚀劣化的ANFIS分析[D];郑州大学;2010年
5 陈松峰;利用PCA和AdaBoost建立基于贝叶斯的组合分类器[D];郑州大学;2010年
6 张华杰;模糊神经网络在肺癌诊断中的应用[D];郑州大学;2010年
7 曹彦;基于支持向量机的特征选择及其集成方法的研究[D];郑州大学;2010年
8 姜婵娟;遥控式水下机器人PID运动控制算法优化研究[D];哈尔滨工程大学;2010年
9 肖鸿;异向介质基本结构分析[D];哈尔滨工程大学;2010年
10 杨欣颖;潜器光视觉目标识别技术的研究与设计[D];哈尔滨工程大学;2010年
【同被引文献】
中国期刊全文数据库 前10条
1 敖仙丹;何世彪;黄付庆;;基于谱相关和神经网络的信号调制识别[J];重庆邮电大学学报(自然科学版);2008年05期
2 张曾莲;乔齐;;后金融危机背景下商业银行风险预警与应急管理研究[J];财会月刊;2012年03期
3 何旭辉;李鹏;;既有钢管混凝土拱桥的有限元模型修正[J];城市道桥与防洪;2009年01期
4 范南;Creditmetric模型及其对我国银行信用风险管理的借鉴[J];金融论坛;2002年05期
5 范洪波;国有商业银行体系脆弱性的实证分析和政策建议[J];金融论坛;2004年07期
6 葛娟;李一兵;林云;;一种新的混合信号调制识别方法[J];弹箭与制导学报;2011年06期
7 孙娴;林振山;;经验模态分解下中国气温变化趋势的区域特征[J];地理学报;2007年11期
8 蒙吉军;王钧;;20世纪80年代以来西南喀斯特地区植被变化对气候变化的响应[J];地理研究;2007年05期
9 丁幼亮;李爱群;韩晓林;缪长青;汪永兰;;润扬大桥斜拉桥结构安全评估的有限元建模与修正[J];东南大学学报(自然科学版);2006年01期
10 范泽孟;岳天祥;陈传法;孙晓芳;;中国气温与降水的时空变化趋势分析[J];地球信息科学学报;2011年04期
中国博士学位论文全文数据库 前10条
1 常甜甜;支持向量机学习算法若干问题的研究[D];西安电子科技大学;2010年
2 吴昌广;气候变化背景下三峡库区植被覆盖动态及其土壤侵蚀风险研究[D];华中农业大学;2011年
3 尹丽子;基于动态模型的神经网络稳定性研究[D];山东师范大学;2011年
4 覃光华;人工神经网络技术及其应用[D];四川大学;2003年
5 郭鹏;Hopfield神经网络及其在电厂中的应用研究[D];华北电力大学(河北);2004年
6 张治国;人工神经网络及其在地学中的应用研究[D];吉林大学;2006年
7 高玉龙;基于循环谱的调制方式识别与高动态同步技术研究[D];哈尔滨工业大学;2007年
8 常桂娟;基于微粒群算法的车间调度问题研究[D];青岛大学;2008年
9 杨琳;数字通信信号调制方式自动识别技术研究[D];中国科学技术大学;2008年
10 徐新黎;生产调度问题的智能优化方法研究及应用[D];浙江工业大学;2009年
中国硕士学位论文全文数据库 前10条
1 陈巍;基于模拟退火的Hopfield网的研究[D];辽宁工程技术大学;2010年
2 魏民;基于Logistic回归法的银行风险预警模型构建[D];长沙理工大学;2010年
3 秦国平;基于VaR的我国商业银行市场风险计量研究[D];江西财经大学;2010年
4 王欢;改进的模拟退火遗传算法在模具制造车间调度中的研究[D];大连交通大学;2010年
5 马卫华;大跨连续刚构桥参数敏感性分析及高程控制[D];东北林业大学;2011年
6 龚晓洁;基于支持向量机的调制方式识别算法的研究[D];南京邮电大学;2011年
7 叶婉秋;模具制造车间生产调度的研究与开发[D];浙江工业大学;2010年
8 赵叶芳;基于谱相关和神经网络的调制方式识别究[D];哈尔滨工业大学;2011年
9 谭冬梅;基于神经网络的空间网架有限元模型修正[D];武汉理工大学;2003年
10 唐庆国;基于交货期的模具生产作业调度规划研究及软件实现[D];汕头大学;2003年
【二级引证文献】
中国期刊全文数据库 前1条
1 单德山;丁德豪;李乔;黄珍;;基于RBF神经网络的单塔斜拉桥模型修正[J];重庆交通大学学报(自然科学版);2013年04期
中国硕士学位论文全文数据库 前1条
1 王潇碧;移动荷载作用下桥梁损伤识别模型试验研究[D];西南交通大学;2013年
【二级参考文献】
中国期刊全文数据库 前10条
1 王露璐,邓丽,刘先涛;股票投资价值灰色马尔可夫预测[J];商业研究;2004年01期
2 王渺林,傅华,刘德春;寸滩站年最高水位预测模型研究[J];重庆交通学院学报;2005年04期
3 龙云,王建全;基于粒子群游算法的同步发电机参数辨识[J];大电机技术;2003年01期
4 徐志高,关正西,张炜;模糊神经网络在导弹动力系统多故障诊断中的应用[J];弹箭与制导学报;2005年01期
5 刘文杰,马海波;人工神经网络训练样本的相容性检测及化简[J];大连铁道学院学报;2000年02期
6 王会青,王婷,谷志红;灰色马尔可夫链在高峰负荷预测中的应用[J];电力需求侧管理;2004年06期
7 裴浩东,苏宏业,褚健;多层前向神经网络的权值平衡算法[J];电子学报;2002年01期
8 于志伟;Tabu机——一种新的全局优化神经网络[J];电子学报;1999年02期
9 李相勇,张南,蒋葛夫;道路交通事故灰色马尔可夫预测模型[J];公路交通科技;2003年04期
10 张吴明,钟约先;基于改进差分进化算法的相机标定研究[J];光学技术;2004年06期
【相似文献】
中国期刊全文数据库 前10条
1 林培群;徐建闽;傅惠;梁俊斌;;多分支BP网络模型及其在车型分类中的应用[J];微计算机信息;2005年25期
2 刘占霞;杨广强;;现有传送网向ASON演进的基本策略[J];电信技术;2006年08期
3 李京文;高燕;张在腾;;论P2P技术的研究现状[J];电脑知识与技术(学术交流);2007年17期
4 薛琳;张军;;基于Cult3D的网络虚拟模型室的设计与实现[J];农业网络信息;2008年02期
5 周灵;;Waxman-Salama模型网络拓扑生成算法设计与实现[J];湖南理工学院学报(自然科学版);2008年02期
6 凌祥;姜永华;;脉冲耦合振荡器实现传感器网络时间同步[J];宇航学报;2009年03期
7 王仁超,朱光熙;水利水电工程施工复杂运输系统的计算机模拟[J];水利水电技术;1993年08期
8 李先奇;曾致远;张勇传;徐学军;;配电网停电管理系统分析与设计[J];继电器;2005年23期
9 吴艾;刘心松;刘丹;左朝树;;基于组增长的小世界Scale-free网络模型[J];计算机科学;2005年07期
10 蔡雄;缪淮扣;;用JAVA实现P2P网络模型[J];计算机应用与软件;2006年04期
中国重要会议论文全文数据库 前10条
1 张有义;;以网络模型探讨布朗胶体在过滤器中的过滤行为[A];第七届全国磷化学化工暨第四届海峡化学生物学、生物技术与医药发展讨论会论文集[C];2006年
2 高伟;聂锐;张燚;;基于价值链接的高校利益相关者网络结构研究[A];第三届(2008)中国管理学年会论文集[C];2008年
3 杨洪勇;王福生;;基于带宽的Internet网络模型[A];2007中国控制与决策学术年会论文集[C];2007年
4 徐志胜;杨铠腾;李洪;姜学鹏;;特长公路隧道火灾烟囱效应计算方法研究[A];2008年铁路暖通空调学术年会论文专辑[C];2008年
5 李进军;刘德胜;方光明;许瑞明;;联合作战体系网络建模理论方法研究[A];2007系统仿真技术及其应用学术会议论文集[C];2007年
6 谷建伟;;基于微观渗流特征的数值模拟研究[A];科技、工程与经济社会协调发展——中国科协第五届青年学术年会论文集[C];2004年
7 叶玮琳;宋占伟;郑传涛;;基于CAN总线网络的数据融合系统实现[A];2009全国虚拟仪器大会论文集(一)[C];2009年
8 顾巧论;陈秋双;;再制造物流网络模型设计[A];第二十二届中国控制会议论文集(下)[C];2003年
9 赵雁飞;刘永忠;陈三强;孙皓;;冷冻干燥过程相迁移和相分布的孔尺度网络模型与模拟[A];第八届全国冷冻干燥学术交流会论文集[C];2005年
10 谢元一;王厚华;;建筑物走廊型通道中火灾烟气流动特性的研究[A];2005西南地区暖通空调热能动力年会论文集[C];2005年
中国重要报纸全文数据库 前10条
1 ;智能光网络的网络模型[N];人民邮电;2003年
2 李赞;规划ADSL三层结构网络模型[N];通信产业报;2004年
3 张军;基于数字岩心的孔隙网络建模方法研究 获2006年度国家自然科学基金重大研究计划项目资助[N];科技日报;2007年
4 张佳星;蒋太交:用网络诠释生命体系[N];科技日报;2007年
5 本报记者 胡英;网康流量控制系统关注“第8层”[N];计算机世界;2009年
6 冯卫东;美构建可快速确认基因功能的基因网络模型[N];科技日报;2008年
7 尤相骏;徕卡新一代GeoMoS自动监测系统[N];中国水利报;2006年
8 记者 徐勇;两个世纪人软件获推荐[N];人民邮电;2002年
9 倪春波 冯欢欣;高校教务管理搭上网络车[N];计算机世界;2002年
10 王梅;南工大高能磷酰化合物开发结硕果[N];中国化工报;2007年
中国博士学位论文全文数据库 前10条
1 齐峰;人工神经树网络模型的优化研究与应用[D];山东师范大学;2011年
2 张天乐;交替活跃模式的部分连接网络路由研究[D];中国科学院研究生院(计算技术研究所);2006年
3 岳博;Bayes网络模型及其学习算法研究[D];西安电子科技大学;2002年
4 唐学文;路桥投资项目后评价理论与应用分析研究[D];南京航空航天大学;2005年
5 谭利;复杂网络模型及应用研究[D];中南大学;2010年
6 李圣权;GIS的空间数据零初始化与栅格网络分析研究[D];武汉大学;2004年
7 杨林;支持多模式的复合交通网络模型及关键技术研究[D];中国地质大学;2008年
8 陈琳;基于服务质量的多播路由算法研究[D];武汉大学;2005年
9 戴沁芸;无线自组织网络容量的研究[D];华中科技大学;2006年
10 周丽萍;多相复合体系的电磁输运[D];苏州大学;2007年
中国硕士学位论文全文数据库 前10条
1 平小方;呼吸中间神经元及呼吸网络模型的动力学分析[D];华南理工大学;2013年
2 张倚林;一种基于移动Agent生物网络模型的设计与实现[D];电子科技大学;2012年
3 鲍晓利;海西科学解释网络模型中的隐喻[D];南京农业大学;2010年
4 糜利敏;僵尸网络建模研究[D];吉林大学;2010年
5 郭印;一种复杂网络模型的构建及其传播动力学研究[D];江西理工大学;2013年
6 谢伟阳;一类增长社区网络模型的度分布计算[D];上海大学;2013年
7 李少清;基于Elman网络的HC轧机板形识别与控制[D];燕山大学;2011年
8 黄庆荣;分布式网络模型的研究及其在开发TroBus中的应用[D];福州大学;2003年
9 林霞;基于事件通告的会话发起协议网络模型的研究[D];华中科技大学;2004年
10 余利志;基于VaR的电力公司金融头寸优化网络模型研究[D];浙江大学;2004年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026