收藏本站
《南京林业大学》 2018年
收藏 | 手机打开
二维码
手机客户端打开本文

RandPG人工神经网络及其扩展研究

冯哲  
【摘要】:由于经典的人工神经网络的训练时间过长,导致其应用范围受到了限制。极限学习机(Extreme Learning Machine,ELM)的问世,一举打破这一僵局,即ELM能够在保证相当的分类精度前提下,可大幅度缩减前馈神经网络的训练时间。然而,与BP(Back Propagation,BP)神经网络一样,虽然都具备全局逼近能力,但当面临数据样本相对复杂的情况时,极限学习机为了保证学习能力,就需要增加隐节点个数,如此必然导致网络结构的复杂性。随机投影方法是目前处理海量、高维数据的有效工具之一。因此本文考虑在传统神经网络基础上借鉴极限学习机的快速学习思想,设计出更加快速的人工神经网络。本文以平面高斯网络(Plane-Gaussian,PG)为主要研究对象,由于PG隐层参数是通过聚类算法获得,网络训练时间较长,且易陷入局部最优解。针对它的缺陷,本文提出一种改进算法,即随机投影下的平面高斯神经网络(Plane-Gaussian Network Based on Random Projection,RandPG),并在网络结构上进一步优化。本文的研究工作主要包括以下几点:(1)借鉴极限学习机的网络学习机制,即采用随机投影的方式获得RandPG网络隐层激活函数的权值和偏置,避免了PG网络的聚类方法,而且从理论上证明了该网络的全局逼近性和分类能力。在分类和回归数据集上的实验结果表明:RandPG网络继承了PG网络适用于平面状数据分类的特性,训练速度更快。而在同样少的隐节点数目下,实验结果表明,对平面型数据,RandPG网络的训练精度和测试精度高于ELM,对其它未知分布的部分数据,RandPG与ELM具有相当的分类能力,但是在样本复杂的网络流数据集上结果不甚理想,在训练时间和测试时间方面,RandPG和ELM的速度都很快。而且,实验过程中发现采用随机方法,RandPG的确表现出能够跳出局部最优的现象。(2)在单隐层RandPG网络基础上,本文亦设计了双隐层的网络结构,提出双隐层的RandPG网络(Two-hidden-layer RandPG,TRandPG),即它的第一层隐层的参数同单层RandPG一样,通过随机投影的方式产生,它的第二个隐层参数通过倒推的参数求解方式得出。相比于单层RandPG网络,在分类和回归问题上,双层RandPG都取得了更高的精度,进一步验证了随着网络结构复杂性增加,有利于提高神经网络的表达能力。(3)将本文方法与卷积神经网络(Convolutional Neural Networks,CNN)相结合,提出了CNN-RandPG网络,并应用到图像识别领域,以此测试RandPG网络解决实际问题的能力。具体做法是:先利用卷积神经网络提取图像特征,再利用RandPG网络作为分类器。在MNIST数据集上的实验结果表明,相对于经典的采用BP算法进行训练的CNN网络,在隐节点相同的情况下,本文所提方法能有效地提高识别率,且识别过程只需要卷积神经网络一半的时间。
【学位授予单位】:南京林业大学
【学位级别】:硕士
【学位授予年份】:2018
【分类号】:TP18

【相似文献】
中国期刊全文数据库 前10条
1 王志军;;人工神经网络在轧钢中的应用综述[J];上海工程技术大学学报;2018年04期
2 杜秉航;;人工神经网络初探[J];科技传播;2018年02期
3 宋子航;;深度学习技术及其在医疗领域中的应用[J];科技传播;2018年12期
4 彭驿茹;;人工神经网络发展历史与训练算法概述[J];科技传播;2018年21期
5 马卫东;;电气控制线路和人工神经网络关系初探[J];电子世界;2017年02期
6 宋泓阳;孙晓岩;项曙光;;人工神经网络在化工过程中的应用进展[J];化工进展;2016年12期
7 宋雨濛;;基于3s的人工神经网络模型在地质灾害危险性评价中的应用[J];报刊荟萃;2017年04期
8 ;青春IN词[J];青春期健康;2017年09期
9 郑昱;陶倩楠;;人工神经网络在未来深空探测中的应用[J];太空探索;2017年08期
10 张保文;沈荣;;人工神经网络在课堂教学质量评价体系中的应用[J];中国科技信息;2012年08期
中国重要会议论文全文数据库 前10条
1 邓勃;莫华;刘嘉;尹虹;齐建锋;;人工神经网络在分析化学中的应用研究[A];中国分析测试协会科学技术奖发展回顾[C];2015年
2 吴兵;;一种具有语义分布的自构造的新人工神经网络系统及其应用[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年
3 刘勍;应隽;马小姝;;三代人工神经网络发展及其哲学思考[A];第13届中国系统仿真技术及其应用学术年会论文集[C];2011年
4 张建明;王树青;王宁;;模糊系统与人工神经网络的交叉综合及应用[A];1998年中国智能自动化学术会议论文集(上册)[C];1998年
5 赵卿;曹晓岚;;人工神经网络及其在医学中的应用[A];第五次全国中西医结合神经科学术会议论文集[C];2004年
6 林大正;王行愚;;人工神经网络在物流预测中的应用[A];第二十三届中国控制会议论文集(下册)[C];2004年
7 杨丽;卢德华;;基于人工神经网络的建筑节能体系综合评价[A];'2006系统仿真技术及其应用学术交流会论文集[C];2006年
8 杨新志;何毅;;人工神经网络在测控系统故障诊断中的应用[A];1995年中国智能自动化学术会议暨智能自动化专业委员会成立大会论文集(下册)[C];1995年
9 方千山;王永初;方柏山;;基于均匀设计法的人工神经网络及其应用(英文)[A];中国仪器仪表学会第三届青年学术会议论文集(下)[C];2001年
10 李杰;丁网林;阙连元;;发变组失步保护原理与人工神经网络相结合的研究[A];2006中国电力系统保护与控制学术研讨会论文集[C];2006年
中国重要报纸全文数据库 前10条
1 本报记者 许旸;《未来简史》说你的人生将由人工智能决定,你信吗[N];文汇报;2017年
2 记者 孙奇茹;国家级人工智能实验室花落北京[N];北京日报;2017年
3 记者 吴韬 高珊;机器翻译,人类语言藩篱破除之径?[N];河北日报;2017年
4 记者靖九江;发动e引擎 推动健康事业发展[N];中国医药报;2005年
5 本报记者 靖九江 采写;人工神经网络在临床上的应用[N];中国医药报;2005年
6 本报记者 赵文红;胖不胖:看人工神经网络怎么“称”[N];科技日报;2016年
7 葛一鸣 路边文;人工神经网络将大显身手[N];中国纺织报;2003年
8 苑希民(中国水利水电科学研究院决策支持技术研究室 主任) 李彦彬 徐建新(华北水利水电学院) 李鸿雁(北京理工大学管理与经济学院) 苑韶峰 吕军(浙江大学环境与资源学院);人工神经网络 灵感源于大脑[N];中国水利报;2005年
9 胡性慧 王唯赫 杨腾;人工神经网络拓宽版权贸易路径[N];中国知识产权报;2010年
10 记者 周前进;人工神经网络可筛查糖尿病[N];健康报;2000年
中国博士学位论文全文数据库 前10条
1 Han Qiang;[D];山东大学;2005年
2 刘怀喜;复合材料飞轮的损伤与断裂的声发射研究[D];武汉理工大学;2005年
3 白艳萍;人工神经网络在组合优化与信息处理中的应用[D];中北大学;2005年
4 张治国;人工神经网络及其在地学中的应用研究[D];吉林大学;2006年
5 窦英;人工神经网络—近红外光谱法用于药物无损非破坏定量分析的研究[D];吉林大学;2006年
6 董学育;基于人工神经网络的故障诊断方法在电站中的应用研究[D];东南大学;2001年
7 高瑞忠;加速遗传算法和自适应人工神经网络模型在地下水系统计算中的应用研究[D];内蒙古农业大学;2006年
8 曾文;人工神经网络的映射能力及其在空间物理中的应用[D];中国科学院研究生院(武汉物理与数学研究所);1999年
9 阚丹锋;人工神经网络在化工物性定量预测中的应用研究[D];北京化工大学;1992年
10 符东旭;跳汰机人工神经网络控制技术研究[D];太原理工大学;2008年
中国硕士学位论文全文数据库 前10条
1 冯哲;RandPG人工神经网络及其扩展研究[D];南京林业大学;2018年
2 陈鑫;紫外—可见光谱法快速检测牛奶菌群总数研究[D];哈尔滨理工大学;2018年
3 袁超;基于混沌鲸鱼群优化人工神经网络的短期电力负荷预测[D];华北电力大学;2018年
4 潘娟;基于PCA-PSO-KELM模型的医疗辅助诊断方法研究[D];浙江工业大学;2017年
5 KASSIMU JUMA;基于主成分分析和人工神经网络图像处理方法的肺结节检测和分析[D];东北大学;2017年
6 莫静玲;基于人工神经网络的房地产精准营销沙漏模型研究[D];广西大学;2018年
7 刘永春;基于BP人工神经网络的发动机生产作业环境综合评价模型[D];合肥工业大学;2017年
8 郭腾;人工神经网络在寿险公司偿付能力预警中的应用研究[D];湖南大学;2018年
9 臧妍宇;基于人工神经网络的柳河大米产地确证模型研究[D];吉林农业大学;2018年
10 王玉哲;仿生型人工神经网络模拟器的研究[D];清华大学;2017年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026