收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

脉冲神经网络在线学习处理核设计与实现

徐志康  
【摘要】:5G、低功耗广域网等基础设施加速建设,人工智能、边缘计算、区块链等技术将和数以万亿计的物联网设备结合,万物互联对低成本、低功耗、高性能的智能传感器的设计与实现提出了更高的要求。以类脑计算为背景的脉冲神经网络(SNN,Spiking Neural Network),具有脉冲事件驱动性质,是处理时空问题的有效工具。SNN处理器具备强大的计算能力,同时实现具备低成本、低功耗、高并行性,有望延续摩尔定理,实现强人工智能的落地,近些年来成为了研究的热点。当前数字脉冲神经元设计存在资源开销高、片上学习实现优化不足,大部分处理核不支持在线学习,通用性低等问题。本文在已有的研究基础上,以低资源开销、高速、通用性为目标,利用流水、复用等电路优化技术,对神经元的实现模型优化进行了研究,设计了支持在线学习的通用处理核架构。从而满足未来低成本、高速、具备片上学习能力的SNN人工智能、边缘计算等应用需求。本文创新点和工作如下:(1)神经元是网络的基本组成,其功耗和资源开销是SNN处理器的主要部分,我们对常见的神经元模型的实现进行优化。设计了具有在线学习能力的LIF神经元,提出将突触的学习功能迁移到神经元模型,以减少大规模神经网络实现的开销,并对相应的状态更新模块进行设计;通过缩放等电路优化,减少IZH神经元实现的资源开销,设计了其计算更新的流水架构。(2)处理核作为类脑芯片的基本组成单元,当前大部分处理核需要定制的电路元器件,并且设计复杂。我们设计了基于LIF神经元,支持在线学习功能的通用SNN处理核架构,包含256个脉冲神经元和6万个突触。对处理核的各个部分,包括输入输出脉冲缓存,突触和神经元存储,控制模块、突触权重更新等模块进行设计。创新地提出了控制模块流水更新策略、时分复用物理神经元的方法,对支持在线学习的控制模块的读、更新、写时序进行了阐述。(3)最后,对处理核进行仿真测试,处理核完成状态更新与在线学习,接收脉冲数据与神经元的复用。FPGA原型验证,综合实现结果表明,逻辑资源占用不到开发板的1%,存储资源为3.04%,动态功耗为13mw,分析了基于设计的处理核大规模SNN网络实现瓶颈。在65nm的TSMC工艺库下综合,面积为0.2mm~2,突触操作速率为100MSOP/s,并与典型的SNN处理核进行对比。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 李涛;伍良富;袁永斌;;面向神经元的程序设计[J];计算机科学;1996年05期
2 王玉富;;线性系统辨识[J];商场现代化;2005年30期
3 蔡荣太;吴庆祥;王平;;脉冲神经元的信息处理[J];计算机与现代化;2010年11期
4 王剑,毛宗源;具有二级模式的多状态神经元联想记忆网络[J];计算机工程;2004年04期
5 刘泉,黄铁军,张继贤;近线性神经和元非线性神经元[J];计算机工程与应用;2000年10期
6 柳青;神经网络与神经计算机研究的进展[J];广州航海高等专科学校学报;1994年02期
7 张巍,滕冬梅,闵容;BP算法及其实现[J];计算机与现代化;2000年03期
8 江北书生;;精简WinRAR资源开销[J];电脑迷;2006年10期
9 王旭;王晶;张伟功;;基于神经元容错度分析的神经网络裁剪与近似计算技术研究[J];微电子学与计算机;2019年11期
10 王萍,单超;神经网络在通信中的应用[J];现代电子技术;2003年13期
11 程瑶;;神经网络分子通信模型分析[J];电脑知识与技术;2019年03期
12 凌寒;雪莉·范;;人类神经元发现“微型计算机”[J];世界科学;2020年03期
13 钟振余;;神经元集群功能:意识形成的新解释[J];浙江外国语学院学报;2016年05期
14 徐蔚鸿;李璐伟;;一种鲁棒性较强的神经元在模糊规则发生摄动时的有效控制[J];计算机工程与科学;2010年03期
15 王睿洁,谢克明;一种基于粗糙神经元的神经网络预测算法[J];太原理工大学学报;2005年02期
16 李婷;;国内外神经网络的发展及概述[J];知识经济;2013年18期
17 高丽娜,邱关源;神经网络的VLSI实现[J];微电子学;1993年03期
18 ;人类神经元成功调控活鼠主神经网络[J];技术与市场;2014年02期
19 张克志,周昌乐,尤志宁;基于同构神经元簇的局域神经网络模型研究[J];计算机仿真;2005年06期
20 王梦远;王俊博;唐致恒;刘佳瑞;刘讷鸥;郑瑞茂;;AgRP/NPY神经元代谢调控功能研究进展[J];生理科学进展;2019年01期
中国重要会议论文全文数据库 前10条
1 王如彬;张志康;;耦合神经元集群活动的能量演变和数值模拟[A];第十一次中国生物物理学术大会暨第九届全国会员代表大会摘要集[C];2009年
2 谢勇;;不同拓扑类型的簇放电神经元之间的同步行为[A];第七届全国动力学与控制青年学者研讨会论文摘要集[C];2013年
3 刘深泉;姚良瑾;覃秋菊;吕凡;杨志华;;神经元的形态识别和电位发放特性[A];第十二届全国非线性振动暨第九届全国非线性动力学和运动稳定性学术会议论文集[C];2009年
4 石霞;;化学突触耦合神经元的簇放电同步[A];第十二届全国非线性振动暨第九届全国非线性动力学和运动稳定性学术会议论文集[C];2009年
5 孙勇;丁慧霞;汪洋;张庚;何盛华;;浅谈人工神经网络[A];2012年电力通信管理暨智能电网通信技术论坛论文集[C];2013年
6 邓海伟;;自适应共振网络的实现及分析[A];全国第十五届计算机科学与技术应用学术会议论文集[C];2003年
7 李萍;沈宇清;胡玥;张建琼;;经典MHCⅠ类分子在发育神经元中的表达及表观遗传调控机制研究[A];第十二届全国免疫学学术大会分会场交流报告集[C];2017年
8 段利霞;陆启韶;;神经元系统的簇放电动力学机理研究[A];第二届全国动力学与控制青年学者研讨会论文摘要集[C];2008年
9 吴飞健;陈其才;Jen PHS;;GABA能抑制在下丘配对神经元间频谱整合中的作用[A];中国生理学会第五届比较生理学学术会议论文汇编[C];2004年
10 张素花;展永;安海龙;张振东;韩英荣;赵同军;卓益忠;;电突触耦合FitzHugh-Nagumo神经网络的同步振荡[A];全国复杂系统研究论坛论文集(二)[C];2005年
中国博士学位论文全文数据库 前10条
1 李毅;中缝背核不同类型神经元在奖赏相关行为中活性的研究[D];北京协和医学院;2016年
2 卢习;摇晃蛋白信号链分子在神经元迁移中作用的研究[D];西北农林科技大学;2014年
3 蔺想红;大规模脉冲神经网络的模拟与进化研究[D];哈尔滨工业大学;2009年
4 闫志强;丘脑底核神经元的共振及其和多巴胺受体的关系[D];第四军医大学;2012年
5 杨文宇;利用状态函数导数的脉冲神经网络新算法[D];大连理工大学;2013年
6 张永海;听觉下行投射对耳蜗核背侧核神经元调控作用的研究[D];第三军医大学;2011年
7 肖理业;基于机器学习的电磁场建模与设计研究[D];电子科技大学;2019年
8 陈涵瀛;核电站热工水力系统工况预测与诊断方法研究[D];哈尔滨工程大学;2018年
9 梁智杰;聋哑人手语识别关键技术研究[D];华中师范大学;2019年
10 刘昂;微结构硅基光子学器件性能的研究[D];南京大学;2019年
中国硕士学位论文全文数据库 前10条
1 徐志康;脉冲神经网络在线学习处理核设计与实现[D];电子科技大学;2020年
2 段建红;下一代WiFi网络TCP性能优化研究[D];华中科技大学;2018年
3 刘佳星;基于脉冲神经网络的类脑学习算法及其应用[D];上海交通大学;2019年
4 徐克生;耦合神经元的同步研究[D];广西师范大学;2011年
5 吴望生;耦合神经元系统的同步研究[D];广西师范大学;2012年
6 王莹;耦合神经元混沌振子同步问题的研究[D];陕西师范大学;2017年
7 王蓓;神经元电路设计实现的研究[D];贵州大学;2008年
8 张立;线虫特定神经元的转基因标记[D];华中科技大学;2012年
9 俞金妹;基于神经网络的预测函数控制方法研究[D];浙江大学;2007年
10 黄梦之;星形胶质细胞对内侧膝状体神经元听反应电活动的影响[D];杭州师范大学;2016年
中国重要报纸全文数据库 前10条
1 记者 刘霞;人类神经元成功调控活鼠主神经网络[N];科技日报;2011年
2 张章;神经元能够挑选父母基因[N];中国科学报;2017年
3 记者 吴长锋;面对压力选择战斗或逃跑?科学家找到脑内关键神经元[N];科技日报;2020年
4 葛秋芳;吃饱了为何会犯困,一组神经元放松了“警惕”[N];新华每日电讯;2006年
5 朱海鹏 编译;重新定位人力资源开销[N];厂长经理日报;2001年
6 编译 张章;人造神经元比人脑更快[N];中国科学报;2018年
7 记者 常丽君;神经元组成“社交圈”像在“脸书”交朋友[N];科技日报;2015年
8 记者 王小龙;美发现能预测口渴并及时调节的神经元[N];科技日报;2016年
9 记者 曹玲娟;神经元为啥长成“大树”[N];人民日报;2006年
10 中国生物工程学会理事 张磊;拯救被禁锢在身体里的灵魂[N];中国科学报;2018年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978