收藏本站
《华东理工大学》 2011年
收藏 | 手机打开
二维码
手机客户端打开本文

有限精度权值神经网络优化的研究与应用

包健  
【摘要】:本文主要针对目前广泛使用的嵌入式系统具有实时性要求高、内存容量有限以及软硬件精简等特点,传统浮点数权值和连续激励函数的神经网络计算量及其所需存储空间较大,无法在精简硬件的嵌入式系统中的应用的问题,从精简优化神经网络的目的出发,对有限精度神经网络权值的范围、网络结构、训练算法、运行方法等开展研究,使得能在嵌入式系统中利用神经网络来解决实际问题。本文主要研究成果如下: 通过对分类问题的有限精度权值神经网络获得解的能力的分析,提出一种保证解决方案存在的神经网络有限精度权值范围和数量的计算方法。采用有限范围定点数或整数权值为提高神经网络的执行效率提供一条有效途径,因为有限范围的权值可以减少存储容量,且比浮点数计算的效率要高很多。但如果把权值的范围和精度下降得太多,会造成网络不收敛,得不到问题的解。因此必须针对不同的问题,分析计算并通过实验验证权值的范围和数量,确保所采用的权值范围及其神经网络能够在应用中取得良好效果。 研究将神经网络浮点数权值改为有限精度定点数或整数权值后,网络结构、网络训练算法、网络运行方式、激励函数等如何进行改进,使得神经网络能够满足要求的收敛性和实时性。采用改进的遗传算法来对有限精度定点数或整数权值进行学习训练,同时在神经网络训练过程和网络运行中均采用离散激励函数,加快网络的运行速度。 根据上述所描述的思想方法,采用这种改进遗传算法来优化有限精度的整数权值神经网络。针对传统的图像增强算法对嵌入式系统产品的不同类型的图像进行自适应增强所存在的问题,提出了一种基于有限精度神经网络的实时图像自适应增强算法,分别在软件和硬件平台上进行了仿真测试,并对实验结果进行了分析和比较,证明该整数权值神经网络具有好的实时图像增强效果。 目前触摸屏常用的几种校准方法,如二点法、三点法和四点法等都是通过比例计算来实现的。由于触摸屏的坐标系和液晶屏的坐标系是一种不规则的非线性关系。因此采用比例计算来校准触摸屏,存在着较大的误差。为了提供一种既能提高触摸屏校准精度,又适合嵌入式系统的触摸屏校准。结合触摸屏坐标系的非线性特性和神经网络的高度非线性映射能力,提出了一种定点数权值神经网络的触摸屏校准方法。该方法采用精度可调的比例数格式定点数表示神经网络的权值,用改进的遗传算法进行网络的训练,并对网络的非线性节点激励函数进行了线性离散化,进一步提高了计算效率。通过实验验证,采用该神经网络的触摸屏校准具有比传统校准法更高的定位精度,并且在嵌入式系统中运行时的效率有了很大的提高。 在分析研究现有数字识别方法的基础上,提出一种新的有限精度权值神经网络的数字识别方法。采用用逐步量化的Back-propagation (QBPSS)算法来训练神经网络的有限精度权值。同时提出了非线性激励函数按权值精度进行离散化的新方法,能更大地提高神经网络在嵌入式系统上的运行速度。将该优化的有限精度权值神经网络在ARM 9嵌入式系统上进行数字识别检测,结果表明该有限精度权值神经网络比其他有限精度权值神经网络有更好的效果,在嵌入式系统的数字识别中比传统神经网络的效率提高了11倍。
【学位授予单位】:华东理工大学
【学位级别】:博士
【学位授予年份】:2011
【分类号】:TP183

知网文化
【相似文献】
中国期刊全文数据库 前10条
1 郭庆春;孔令军;史永博;崔文娟;张小永;寇立群;;基于神经网络的入境旅游人数预测[J];价值工程;2011年25期
2 宁彬;吴钊;周健威;;电子政务绩效评价体系研究[J];电脑知识与技术;2011年13期
3 黄莲花;李光明;;神经网络数据融合在车用传感器中的应用[J];装备制造技术;2011年08期
4 张国光;王林山;;一类时滞递归神经网络的鲁棒稳定性[J];滨州学院学报;2011年03期
5 周鸣一;程文清;赵建立;;基于神经网络的程控交换机故障诊断方法研究[J];电脑知识与技术;2011年25期
6 曹婧华;冉彦中;郭金城;;玉米考种系统的设计与实现[J];长春师范学院学报;2011年08期
7 孙海龙;冯超;匙瑞堂;;滚动轴承状态监测[J];工业设计;2011年05期
8 李华;曹晓龙;成江荣;;BP神经网络在软件项目风险评估中的应用[J];计算机仿真;2011年07期
9 杨鹤年;;机电一体化系统中的智能控制技术[J];煤炭技术;2011年07期
10 许杰;程锦房;何光进;;一种基于舰船磁场的神经网络识别模型[J];船电技术;2011年09期
中国重要会议论文全文数据库 前10条
1 侯艳芳;冯红梅;;基于神经网络的调制识别算法的研究[A];武汉(南方九省)电工理论学会第22届学术年会、河南省电工技术学会年会论文集[C];2010年
2 沈建荣;杨林泉;陈琳;;神经网络的稳定性判据与区域经济结构调整[A];系统工程与可持续发展战略——中国系统工程学会第十届年会论文集[C];1998年
3 石山铭;李富兰;丁俊丽;;神经网络的知识获取[A];全国青年管理科学与系统科学论文集(第1卷)[C];1991年
4 吴清烈;徐南荣;;基于神经网络的一种多目标决策方法[A];复杂巨系统理论·方法·应用——中国系统工程学会第八届学术年会论文集[C];1994年
5 李晓钟;汪培庄;罗承忠;;神经网络与模糊逻辑[A];中国系统工程学会模糊数学与模糊系统委员会第五届年会论文选集[C];1990年
6 房育栋;余英林;;高阶自组织映射及其学习算法[A];1995年中国控制会议论文集(上)[C];1995年
7 王晓晔;杜朝辉;吕德忠;刘建峰;;神经网络模糊控制在温度控制系统中的应用[A];1997中国控制与决策学术年会论文集[C];1997年
8 金龙;吴建生;;基于遗传算法的神经网络短期气候预测模型(摘要)[A];新世纪气象科技创新与大气科学发展——中国气象学会2003年年会“气候系统与气候变化”分会论文集[C];2003年
9 申伟;张元培;;基于MATLAB的自适应神经网络模糊系统(ANFIS)的应用[A];《制造业自动化与网络化制造》学术交流会论文集[C];2004年
10 田艳兵;;BP算法和PSO算法在神经网络中的研究[A];第二十九届中国控制会议论文集[C];2010年
中国重要报纸全文数据库 前10条
1 记者 陈青 通讯员 孙国根;揭示神经网络形成新机制[N];文汇报;2011年
2 于翔;数字神经网络中的协同应用[N];网络世界;2009年
3 健康时报特约记者  张献怀;干细胞移植:修复受损的神经网络[N];健康时报;2006年
4 邹丽梅 陈耀群;江苏科大神经网络应用研究通过鉴定[N];中国船舶报;2006年
5 记者 孙刚;“神经网络”:打开复杂工艺“黑箱”[N];解放日报;2007年
6 本报首席记者 任荃 实习生 史博臻;轨交“神经网络”触动创新神经[N];文汇报;2011年
7 计算机世界实验室 韩勖;当布线系统遭遇神经网络[N];计算机世界;2009年
8 曹建兵 李祖兵 特约记者 何天进 本报记者 于莘明;给导弹植入“神经网络”[N];科技日报;2005年
9 谭薇;“潮湿计算机”:拥有人类智慧的超级大脑[N];第一财经日报;2010年
10 韩婷婷;ICT强壮奥运“神经网络”[N];通信产业报;2007年
中国博士学位论文全文数据库 前10条
1 包健;有限精度权值神经网络优化的研究与应用[D];华东理工大学;2011年
2 刘志祥;深部开采高阶段尾砂充填体力学与非线性优化设计[D];中南大学;2005年
3 戴雪龙;PET探测器神经网络定位方法研究[D];中国科学技术大学;2006年
4 马戎;智能控制技术在炼钢电弧炉中的应用研究[D];西北工业大学;2006年
5 文敦伟;面向多智能体和神经网络的智能控制研究[D];中南大学;2001年
6 吴大宏;基于遗传算法与神经网络的桥梁结构健康监测系统研究[D];西南交通大学;2003年
7 杜文斌;基于神经网络的冠心病证候诊断标准与药效评价模型研究[D];辽宁中医学院;2004年
8 熊雪梅;参数化模糊遗传神经网络及在植物病害预测的应用[D];南京农业大学;2004年
9 李智;电站锅炉燃烧系统优化运行与应用研究[D];东北大学;2005年
10 王承;基于神经网络的模拟电路故障诊断方法研究[D];电子科技大学;2005年
中国硕士学位论文全文数据库 前10条
1 杨立儒;基于神经网络的电路故障诊断的研究与实现[D];解放军信息工程大学;2010年
2 刘兰兰;基于神经网络和遗传算法的H型钢粗轧工艺参数优化研究[D];山东大学;2011年
3 田鹏明;基于神经网络的振动主动控制研究[D];太原理工大学;2012年
4 姜宇;发动机裂解设备故障诊断技术的研究[D];吉林大学;2012年
5 邢远凯;基于决策树和遗传算法的神经网络研究及应用[D];浙江大学;2010年
6 高宝建;基于神经网络的月降水预报模型在洪泽湖的应用研究[D];南京信息工程大学;2012年
7 陈少华;基于Hopfield神经网络控制系统的研究[D];山东科技大学;2010年
8 来建波;基于神经网络的路段行程时间预测研究[D];云南大学;2011年
9 闫超;基于BP神经网络的煤矿深埋硐室软岩流变参数反演分析[D];安徽理工大学;2011年
10 段成均;时滞神经网络稳定性分析[D];重庆交通大学;2011年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026