收藏本站
《华东理工大学》 2011年
收藏 | 手机打开
二维码
手机客户端打开本文

有限精度权值神经网络优化的研究与应用

包健  
【摘要】:本文主要针对目前广泛使用的嵌入式系统具有实时性要求高、内存容量有限以及软硬件精简等特点,传统浮点数权值和连续激励函数的神经网络计算量及其所需存储空间较大,无法在精简硬件的嵌入式系统中的应用的问题,从精简优化神经网络的目的出发,对有限精度神经网络权值的范围、网络结构、训练算法、运行方法等开展研究,使得能在嵌入式系统中利用神经网络来解决实际问题。本文主要研究成果如下: 通过对分类问题的有限精度权值神经网络获得解的能力的分析,提出一种保证解决方案存在的神经网络有限精度权值范围和数量的计算方法。采用有限范围定点数或整数权值为提高神经网络的执行效率提供一条有效途径,因为有限范围的权值可以减少存储容量,且比浮点数计算的效率要高很多。但如果把权值的范围和精度下降得太多,会造成网络不收敛,得不到问题的解。因此必须针对不同的问题,分析计算并通过实验验证权值的范围和数量,确保所采用的权值范围及其神经网络能够在应用中取得良好效果。 研究将神经网络浮点数权值改为有限精度定点数或整数权值后,网络结构、网络训练算法、网络运行方式、激励函数等如何进行改进,使得神经网络能够满足要求的收敛性和实时性。采用改进的遗传算法来对有限精度定点数或整数权值进行学习训练,同时在神经网络训练过程和网络运行中均采用离散激励函数,加快网络的运行速度。 根据上述所描述的思想方法,采用这种改进遗传算法来优化有限精度的整数权值神经网络。针对传统的图像增强算法对嵌入式系统产品的不同类型的图像进行自适应增强所存在的问题,提出了一种基于有限精度神经网络的实时图像自适应增强算法,分别在软件和硬件平台上进行了仿真测试,并对实验结果进行了分析和比较,证明该整数权值神经网络具有好的实时图像增强效果。 目前触摸屏常用的几种校准方法,如二点法、三点法和四点法等都是通过比例计算来实现的。由于触摸屏的坐标系和液晶屏的坐标系是一种不规则的非线性关系。因此采用比例计算来校准触摸屏,存在着较大的误差。为了提供一种既能提高触摸屏校准精度,又适合嵌入式系统的触摸屏校准。结合触摸屏坐标系的非线性特性和神经网络的高度非线性映射能力,提出了一种定点数权值神经网络的触摸屏校准方法。该方法采用精度可调的比例数格式定点数表示神经网络的权值,用改进的遗传算法进行网络的训练,并对网络的非线性节点激励函数进行了线性离散化,进一步提高了计算效率。通过实验验证,采用该神经网络的触摸屏校准具有比传统校准法更高的定位精度,并且在嵌入式系统中运行时的效率有了很大的提高。 在分析研究现有数字识别方法的基础上,提出一种新的有限精度权值神经网络的数字识别方法。采用用逐步量化的Back-propagation (QBPSS)算法来训练神经网络的有限精度权值。同时提出了非线性激励函数按权值精度进行离散化的新方法,能更大地提高神经网络在嵌入式系统上的运行速度。将该优化的有限精度权值神经网络在ARM 9嵌入式系统上进行数字识别检测,结果表明该有限精度权值神经网络比其他有限精度权值神经网络有更好的效果,在嵌入式系统的数字识别中比传统神经网络的效率提高了11倍。
【学位授予单位】:华东理工大学
【学位级别】:博士
【学位授予年份】:2011
【分类号】:TP183

【参考文献】
中国期刊全文数据库 前10条
1 赵巍,张向前;遥感图像解译中的增强技术[J];测绘信息与工程;1997年03期
2 钱艺;王沁;吴巍;刘金龙;;神经网络并行MIMD处理器的研究及实现[J];电子科技大学学报;2008年06期
3 唐思章 ,黄勇;SoPC与嵌入式系统软硬件协同设计[J];单片机与嵌入式系统应用;2005年12期
4 杨伟钧;戴青云;张辉;何最红;;基于STC单片机的触摸屏五点校准算法设计与实现[J];仪器仪表用户;2008年03期
5 许荣斌;谢莹;朱永红;;触摸屏校准常用算法分析[J];工业控制计算机;2006年04期
6 叶莉娅,张珣;基于神经网络嵌入式系统体系结构的研究[J];杭州电子科技大学学报;2005年02期
7 雍杨,王敬儒,张启衡;弱小目标低对比度图像增强算法研究[J];激光与红外;2005年05期
8 毛佳,张振花,戴红,苑森淼;实时系统调度算法的优化设计[J];计算机工程与应用;2003年15期
9 张锐,姜长生,卢伟健;采用DSP实现的神经网络实时仿真系统[J];南京航空航天大学学报;2002年04期
10 罗勇刚;夏定纯;;电阻式触摸屏的校准与应用研究[J];武汉科技学院学报;2007年12期
中国硕士学位论文全文数据库 前1条
1 洪明坚;图像增强的自适应直方图修正算法研究及其应用[D];重庆大学;2002年
【共引文献】
中国期刊全文数据库 前10条
1 刘青峰;尹久仁;;神经网络智能诊断技术在混凝土结构中的理论实现与展望[J];四川建筑科学研究;2007年01期
2 刘治群;杨万挺;朱强;;几种图像增强算法的研究比较[J];合肥师范学院学报;2010年06期
3 张大明;樊晓香;刘华勇;李璐;;信息与计算科学专业“数字图像处理”课程教学探索与实践[J];合肥师范学院学报;2012年03期
4 汤自安;刘晓波;汪虽富;吕乃杰;;基于音视频矩阵的生产调度会议系统应用[J];安防科技;2009年04期
5 华文立;胡学刚;;平衡决策树分类精度与规则简易性研究[J];安徽电子信息职业技术学院学报;2006年04期
6 胡继胜;;基于小波变换的图像处理[J];安徽职业技术学院学报;2006年01期
7 刘治群;杨万挺;;对亮度保持算法的改进[J];安徽职业技术学院学报;2010年04期
8 周鸣争;人工神经网络在自动控制系统中的应用[J];安徽机电学院学报;2000年02期
9 方冉;陈乃金;;基于S3C44B0X处理器触摸屏接口的设计与测试[J];安徽工程科技学院学报(自然科学版);2010年02期
10 顾转金;;基于DSP图像优化方案[J];安徽科技;2009年06期
中国重要会议论文全文数据库 前10条
1 谭守标;霍剑青;郝建;王晓蒲;赵永飞;谢行恕;;高分辨率软X射线显微成像下细胞的自动提取?[A];2005年“数字安徽”博士科技论坛论文集[C];2005年
2 张友华;叶勇;;苹果形色特征的自动提取[A];现代农业理论与实践——安徽现代农业博士科技论坛论文集[C];2007年
3 杨洁;王朝辉;;遥感监测中变化信息提取的方法探讨[A];江苏省测绘学会2011年学术年会论文集[C];2011年
4 李枚毅;游维;蔡自兴;;多样度和适应度引导的遗传算法操作概率计算研究[A];第二十六届中国控制会议论文集[C];2007年
5 张志华;王莉;刘洪;;最大化网络广告收入的投放决策[A];第二十六届中国控制会议论文集[C];2007年
6 Yu Kerwei;Yang Tsunlirng;;A Case Study of Yacht's Motions Represented by Using Stewart Platform[A];第二十七届中国控制会议论文集[C];2008年
7 王亚慧;程培新;赵亚丹;张桐;;针对时滞系统的RBF神经网络滑模控制策略[A];第二十七届中国控制会议论文集[C];2008年
8 陈小飞;吉莉;刘昆;;基于自适应线性神经网络的磁悬浮飞轮控制[A];第二十九届中国控制会议论文集[C];2010年
9 杨健;杨化超;宁小刚;张继贤;邓喀中;;相机标定中标志点的(半)自动检测方法研究[A];2010'中国矿业科技大会论文集[C];2010年
10 李奔;吉海彦;;基于图像颜色特征的玉米种子神经网络分类研究[A];第九届全国信息获取与处理学术会议论文集Ⅱ[C];2011年
中国博士学位论文全文数据库 前10条
1 张杏莉;几何约束求解关键问题研究[D];山东科技大学;2010年
2 樊建聪;分布估计学习算法研究[D];山东科技大学;2010年
3 戴运桃;粒子群优化算法研究及其在船舶运动参数辨识中的应用[D];哈尔滨工程大学;2010年
4 曹宇;利用遗传算法对声障板优化设计的研究[D];哈尔滨工程大学;2010年
5 王咏胜;复数轮廓波变换的构造、扩展及其图像处理应用[D];哈尔滨工程大学;2009年
6 时长江;豆科类杂草种子图像识别系统研究[D];中国海洋大学;2009年
7 付红丽;白令海冰间湖变化规律及相应的海洋过程研究[D];中国海洋大学;2010年
8 段志东;基于广义模块化设计的快锻液压机机架力学特性研究[D];兰州大学;2010年
9 何英;干旱区典型流域水资源优化配置研究[D];新疆农业大学;2010年
10 李岳阳;彩色图像滤波算法的研究[D];江南大学;2010年
中国硕士学位论文全文数据库 前10条
1 刘辉;基于电子鼻的鱼粉新鲜度快速检测方法研究[D];华中农业大学;2010年
2 何慧娟;基于多传感器的移动机器人障碍物检测与定位研究[D];安徽工程大学;2010年
3 陈国强;准双曲面齿轮接触图像齿形轮廓和接触斑点的二维重构[D];河南理工大学;2010年
4 李锦;基于声波的运动车辆行驶状态辨识理论研究[D];南昌航空大学;2010年
5 李旭东;煤矿通防安全信息集成与控制预警系统平台研究[D];山东科技大学;2010年
6 张鸿堃;矿山企业生产成本模块化管理与应用[D];山东科技大学;2010年
7 吴香庭;基于遗传算法的K-means聚类方法的研究[D];山东科技大学;2010年
8 蒲锰;非侵入式矿井提升机PLC电控系统实时故障诊断方法的研究[D];山东科技大学;2010年
9 李洪琴;基于振动模态分析和BP网络的桥梁损伤识别研究[D];山东科技大学;2010年
10 徐强;基于TMS320F2812的指纹识别系统的设计与实现[D];山东科技大学;2010年
【二级参考文献】
中国期刊全文数据库 前10条
1 许捍卫,王成;一种简单的数字识别方法研究[J];地矿测绘;2000年02期
2 韩亮,李莺,张馨,陈杰;高性能可重构DSP处理器的数据通路设计[J];电子科技大学学报;2005年02期
3 王运;黄大贵;杨天文;;开放式数控切割机神经网络误差补偿研究[J];电子科技大学学报;2007年02期
4 付学志;姚旺生;苟伟;谭斌;;基于FPGA的高速PID控制器设计与仿真[J];电子技术应用;2007年01期
5 许雷,郑筱祥,陈兴灿;一种基于小波相位滤波及视觉非线性的医学图像自适应增强新方法[J];电子学报;1999年09期
6 李中奇,张冬波,罗文俊;嵌入式Linux系统中触摸屏控制的研究与实现[J];工业控制计算机;2005年02期
7 刘涛;刘星;沈传文;季筱隆;;基于S3C2410的触摸屏及其组态系统的设计与实现[J];工业控制计算机;2007年07期
8 杨旭东,胡恒章,李士勇;带有成长算子的遗传算法[J];哈尔滨工业大学学报;1999年05期
9 王志刚,王伟,许晓鸣;基于塔型结构的多分辨率模糊边缘检测[J];红外与毫米波学报;2002年04期
10 张宏群,张雪,肖旺新;小波变换的自适应阈值图像边缘检测方法[J];红外与激光工程;2003年01期
【相似文献】
中国期刊全文数据库 前10条
1 吴爱国,郝润生;一种改进BP算法在机械手逆运动学中的应用[J];中国工程科学;2005年07期
2 靳蕃;;广义同余神经网络的初步探讨[J];前沿科学;2008年03期
3 唐瑞雪;蔡淮;张涤;;广义同余神经网络中三种激励函数的比较研究[J];信息通信;2008年03期
4 鄢田云;邹书蓉;余贞侠;刘培培;;广义同余神经网络及BP神经网络的比较研究[J];计算机应用研究;2008年02期
5 王德武;于洋;;混沌优化BP网络在指纹分类中的应用[J];哈尔滨理工大学学报;2007年04期
6 金瑜;陈光;刘红;;基于多分辨正交多小波的神经网络研究[J];电子测量与仪器学报;2008年02期
7 宋轶民,熊熊,马文贵,张策;激励函数可调的前馈神经网络在线学习算法[J];天津大学学报(自然科学与工程技术版);1999年02期
8 黄金才;陈文伟;陈元;;非线性CC神经元模型的原理及其学习算法[J];计算机科学;2001年11期
9 吴小俊,王士同,杨静宇,曹奇英;基于正交多项式函数的神经网络及其性质研究[J];计算机工程与应用;2002年09期
10 汪志勇;;基于小波网络的非线性逼近方法[J];咸宁学院学报;2008年03期
中国重要会议论文全文数据库 前10条
1 罗琦;张雨田;;一类具反应扩散项的神经网络的Lagrange全局指数稳定性[A];中国自动化学会控制理论专业委员会A卷[C];2011年
2 孙冬梅;李永新;;基于Volterra级数及神经网络的非线性系统建模[A];首届信息获取与处理学术会议论文集[C];2003年
3 向阳;丁红昌;;人工神经网络在轻武器射表中应用[A];科技创新与节能减排——吉林省第五届科学技术学术年会论文集(上册)[C];2008年
4 印兴耀;吴国忱;杨风丽;;用于储层预测的神经网络[A];1994年中国地球物理学会第十届学术年会论文集[C];1994年
5 鄢田云;张翠芳;周彦沛;佘远俊;;基于广义同余神经网络的非线性系统辨识仿真[A];中国自动化学会、中国仪器仪表学会2004年西南三省一市自动化与仪器仪表学术年会论文集[C];2004年
6 李巧萍;李文林;;一类中立型变延时神经网络的指数稳定[A];第二十九届中国控制会议论文集[C];2010年
7 张毅;高衿畅;;基于sinc函数神经网络的函数逼近[A];1998中国控制与决策学术年会论文集[C];1998年
8 侯艳芳;冯红梅;;基于神经网络的调制识别算法的研究[A];武汉(南方九省)电工理论学会第22届学术年会、河南省电工技术学会年会论文集[C];2010年
9 沈建荣;杨林泉;陈琳;;神经网络的稳定性判据与区域经济结构调整[A];系统工程与可持续发展战略——中国系统工程学会第十届年会论文集[C];1998年
10 石山铭;李富兰;丁俊丽;;神经网络的知识获取[A];全国青年管理科学与系统科学论文集(第1卷)[C];1991年
中国重要报纸全文数据库 前10条
1 于翔;数字神经网络中的协同应用[N];网络世界;2009年
2 健康时报特约记者  张献怀;干细胞移植:修复受损的神经网络[N];健康时报;2006年
3 邹丽梅 陈耀群;江苏科大神经网络应用研究通过鉴定[N];中国船舶报;2006年
4 记者 孙刚;“神经网络”:打开复杂工艺“黑箱”[N];解放日报;2007年
5 本报首席记者 任荃 实习生 史博臻;轨交“神经网络”触动创新神经[N];文汇报;2011年
6 计算机世界实验室 韩勖;当布线系统遭遇神经网络[N];计算机世界;2009年
7 曹建兵 李祖兵 特约记者 何天进 本报记者 于莘明;给导弹植入“神经网络”[N];科技日报;2005年
8 谭薇;“潮湿计算机”:拥有人类智慧的超级大脑[N];第一财经日报;2010年
9 韩婷婷;ICT强壮奥运“神经网络”[N];通信产业报;2007年
10 ;人老了,大脑仍能形成新的神经网络[N];新华每日电讯;2004年
中国博士学位论文全文数据库 前10条
1 包健;有限精度权值神经网络优化的研究与应用[D];华东理工大学;2011年
2 周伟;关于多稳定回复式神经网络中的一些问题[D];电子科技大学;2010年
3 尹乾;基于神经网络的软件可靠性模型[D];北京师范大学;2006年
4 马永涛;通信信道建模的神经网络优化技术研究[D];天津大学;2009年
5 熊雪梅;参数化模糊遗传神经网络及在植物病害预测的应用[D];南京农业大学;2004年
6 秦泗甜;基于微分包含的非光滑动力系统分析及其应用[D];哈尔滨工业大学;2010年
7 秦泗甜;基于微分包含的非光滑动力系统分析及其应用[D];哈尔滨工业大学;2010年
8 金英秀;一类带时滞的Cohen-Grossberg神经网络稳定性研究[D];东北大学;2009年
9 汪木兰;神经网络硬化实现的共性技术在电力传动中应用研究[D];合肥工业大学;2010年
10 徐芳;多稳定神经网络的动力学分析[D];电子科技大学;2011年
中国硕士学位论文全文数据库 前10条
1 段成均;时滞神经网络稳定性分析[D];重庆交通大学;2011年
2 姜宇;发动机裂解设备故障诊断技术的研究[D];吉林大学;2012年
3 杨立儒;基于神经网络的电路故障诊断的研究与实现[D];解放军信息工程大学;2010年
4 李安新;BP神经网络研究与硬件实现[D];山东科技大学;2010年
5 刘兰兰;基于神经网络和遗传算法的H型钢粗轧工艺参数优化研究[D];山东大学;2011年
6 田鹏明;基于神经网络的振动主动控制研究[D];太原理工大学;2012年
7 邢远凯;基于决策树和遗传算法的神经网络研究及应用[D];浙江大学;2010年
8 高宝建;基于神经网络的月降水预报模型在洪泽湖的应用研究[D];南京信息工程大学;2012年
9 陈少华;基于Hopfield神经网络控制系统的研究[D];山东科技大学;2010年
10 吕琼帅;BP神经网络的优化与研究[D];郑州大学;2011年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026