收藏本站
《中国科学技术大学》 2010年
收藏 | 手机打开
二维码
手机客户端打开本文

高性能微处理器中自适应高速缓存管理策略研究

隋秀峰  
【摘要】: 对主存储器的访问是制约高性能微处理器系统性能的主要因素之一。存储器的访问速度通常会比处理器速度慢两个数量级,为了缩小这一差距,当代处理器设计已经将一半以上的片上晶体管资源用于最后一级高速缓存。然而,针对小容量一级高速缓存的传统管理策略并不能有效地管理大容量最后一级高速缓存,由此引发了大量的高速缓存缺失,从而导致频繁的片外内存访问和处理器性能的严重下降。增加的访存延迟、有限的片外带宽、破坏性的线程间干扰、多样化的负载特性、扩大化的新兴应用工作集规模,单一芯片内所集成处理器核数目的增加,以及由此导致的每个处理器核所占有高速缓存空间的减少等诸多方面的因素都给高速缓存的设计带来了极大的挑战,也使得高速缓存管理策略的重要性变得越发关键。本文重点分析了高性能微处理器尤其是多核处理器中最后一级高速缓存管理的若干热点问题,并提出相应的开销合理的解决方案来提高系统性能。论文的主要研究内容与创新之处包括: 1.同时多线程处理器中高速缓存公平划分技术研究。传统的LRU替换策略会根据线程的需要隐式地对共享高速缓存进行划分,不同负载时间重用行为的差异导致它们对高速缓存资源的竞争能力存在差别,这会对并发调度线程的推进速度造成不一致的影响。不公平高速缓存共享问题使得操作系统线程调度的效率遭到丧失,线程饿死、优先级反转等问题呈现。针对这一情况本文实现了一种自适应、运行时划分机制(ARP)来管理共享高速缓存,该机制以提高公平性为优化目标,在每个周期内使用基于动态组采样的硬件监控器电路来收集栈距离剖析信息,从而精确地估计每个线程公平性度量的数值,并利用划分与回滚相结合的贪心算法来确定最优的划分方案。实验结果表明,相比于LRU策略,ARP可以将一个2-路同时多线程处理器的公平性提高2.26倍,同时将吞吐量平均提高14.75%。 2.多核处理器中高速缓存颠簸避免技术研究。随着最后一级高速缓存容量和相联度的增长,LRU策略和理论最优替换算法之间的性能差距日趋增大,引起这一问题的主要原因是LRU策略会导致大工作集访存密集型负载发生高速缓存颠簸,并且在选择替换块时仅仅考虑了高速缓存访问的临近信息而忽视了数据的访问频率。本文指出访存密集型负载的性能可以通过无用数据的及早替换和改变低使用频率数据的插入和提升位置而得到显著提升,基于这一思想本文提出无用块消除和低使用频率块过滤高速缓存管理策略,该策略利用活动时间预测器来预测数据块的使用频率,根据预测结果将无用数据提早替换,将低使用频率数据插入到低优先级位置以降低其驻留在缓存空间的时间,从而成功地避免工作集规模大于共享高速缓存容量的访存密集型负载发生颠簸,并考虑了程序中数据的临近性和使用频率信息。与LRU相比将4-路多核处理器的加权加速比平均提升14.5%。 3.多核处理器中高速缓存混合管理策略研究。目前传统的单一高速缓存管理策略已经无法满足不同局部性特征负载的性能需要,当并发执行的线程间存在破坏性干扰或者负载的工作集超过可用高速缓存容量时,最后一级高速缓存的性能以及由此关联到的多核处理器的性能都会严重下降。针对这一问题,本文提出划分感知淘汰线程感知插入/提升(PAE-TIP)混合高速缓存管理策略,该策略采用低开销的锦标赛机制来确定每个线程缺失数据块的插入位置和命中数据块的提升位置,并且根据基于效用的高速缓存划分算法所提供的目标分配方案来选择被淘汰的数据块。能够同时对共享高速缓存实施包括容量管理、自适应插入和自适应提升在内的混合管理,在多种具有不同数据局部性特征的访存行为之间进行必要的折衷。实验表明,相比于传统的LRU策略, PAE-TIP能够将4-路多核处理器的加权加速比平均提高19.3%。
【学位授予单位】:中国科学技术大学
【学位级别】:博士
【学位授予年份】:2010
【分类号】:TP332

手机知网App
【参考文献】
中国博士学位论文全文数据库 前1条
1 高翔;多核处理器的访存模拟与优化技术研究[D];中国科学技术大学;2007年
【共引文献】
中国博士学位论文全文数据库 前1条
1 洪龙;中介真值程度的度量及其在计算机系统结构研究中的应用[D];南京航空航天大学;2006年
中国硕士学位论文全文数据库 前2条
1 蒋宁;嵌入式数据库的缓存优化与实时事务调度[D];浙江大学;2006年
2 卢鋆;基于Cell多核处理器的MPEG-2视频解码技术的研究[D];浙江大学;2008年
【同被引文献】
中国博士学位论文全文数据库 前1条
1 高翔;多核处理器的访存模拟与优化技术研究[D];中国科学技术大学;2007年
中国硕士学位论文全文数据库 前1条
1 郑国卿;专用集成电路并行结构研究及其在视频解码芯片设计中的实践[D];浙江大学;2005年
【相似文献】
中国期刊全文数据库 前10条
1 罗布次仁;;浅谈微处理器[J];才智;2008年04期
2 王国栋,侯朝焕;GCC在高性能微处理器DSP和CPU上的移植[J];计算机工程与设计;2005年04期
3 ;东芝公司获得ARM1176JZF-S高性能微处理器授权[J];单片机与嵌入式系统应用;2005年12期
4 冯超超;陈迅;衣晓飞;张民选;;高性能微处理器中一种改进的高扇入多米诺电路设计与实现(英文)[J];半导体学报;2008年09期
5 熊坚;赵海华;施莉;;RAM用于高速缓存[J];光电工程;1987年02期
6 康宝祥,栾贵兴;高性能微处理器设计技术[J];小型微型计算机系统;1994年10期
7 Michael Slater ,张琪;下一代PC的最佳CPU[J];个人电脑;1998年02期
8 徐景村,何培斌;微机高速缓存系统组织与数据更新探讨[J];山东师大学报(自然科学版);1998年01期
9 左琦;付宇卓;程秀兰;黄洋;;嵌入式应用环境下的Cache性能分析[J];计算机工程;2006年01期
10 陈黎明;邹雪城;雷鑑铭;刘政林;;动态可重构高速缓存结构的研究与设计[J];微电子学;2007年06期
中国重要会议论文全文数据库 前10条
1 沈庆伟;;高速缓存技术在Internet中的应用[A];第一届全国Web信息系统及其应用会议(WISA2004)论文集[C];2004年
2 隋厚堂;;星载计算机高速缓冲存储器的加固技术和性能[A];中国空间科学学会空间探测专业委员会第十一次学术会议论文集[C];1998年
3 乔纯捷;刘辉;钟小鹏;王跃科;;8通道集成式炮口冲击波数据采集系统[A];2004全国测控、计量与仪器仪表学术年会论文集(下册)[C];2004年
4 高欣;刘衡竹;张波涛;;高速缓存优化研究与设计[A];第十五届计算机工程与工艺年会暨第一届微处理器技术论坛论文集(A辑)[C];2011年
5 赵志敏;;MySQL查询高速缓冲关键技术研究[A];2009年研究生学术交流会通信与信息技术论文集[C];2009年
6 韩希先;杨东华;李建中;;DBCC-Join:一种新的高速缓存敏感的磁盘连接算法[A];NDBC2010第27届中国数据库学术会议论文集A辑一[C];2010年
7 代芬;王卫星;俞龙;;同步静态随机访问存储器的特点及应用[A];农业工程科技创新与建设现代农业——2005年中国农业工程学会学术年会论文集第三分册[C];2005年
8 陈亮;张在宣;;分布式光纤拉曼温度传感器的嵌入式信号处理系统研究[A];中国光学学会2006年学术大会论文摘要集[C];2006年
9 周宁;丁琦;;开放实时数据库及其在调度自动化系统中的应用[A];2006电力系统自动化学术交流研讨大会论文集[C];2006年
10 孟祺;韦克平;史晓锋;;基于DSP的数字声波测井仪设计[A];全国第十届信号与信息处理、第四届DSP应用技术联合学术会议论文集[C];2006年
中国重要报纸全文数据库 前10条
1 本报记者 胡英;3Com确保企业网成功的另一招[N];计算机世界;2001年
2 本报记者  谢文砚;双核X3架构性能分析[N];网络世界;2006年
3 振;Oracle内存数据库高速缓存软件上市[N];电脑商报;2008年
4 飞思卡尔半导体公司汽车和标准产品部Johann Holzmann;利用高速缓存体系结构进行汽车引擎嵌入式控制[N];中国电子报;2005年
5 陈怡均 DigiTimes;IBM研发新DRAM电路[N];电子资讯时报;2007年
6 记者 王握文 特约通讯员 司宏伟;我军武器装备有了“中国芯”[N];解放军报;2010年
7 山枫;趋势科技利用高速缓存方案 企业防毒性能长5倍[N];中国计算机报;2002年
8 迪文;英特尔Xeon MP高速缓存容量翻番[N];中国计算机报;2005年
9 郭长佑;固态硬盘、硬盘高速缓存:存储新时代来临[N];电子资讯时报;2007年
10 本报记者 刘丽丽;胡伟武:用心造“芯”[N];计算机世界;2010年
中国博士学位论文全文数据库 前10条
1 隋秀峰;高性能微处理器中自适应高速缓存管理策略研究[D];中国科学技术大学;2010年
2 林隽民;基于重用距离预测与流检测的高速缓存替换算法研究[D];清华大学;2010年
3 吴俊杰;层次存储的访问分析与优化方法研究[D];国防科学技术大学;2009年
4 郇丹丹;高性能存储系统研究[D];中国科学院研究生院(计算技术研究所);2006年
5 陈黎明;嵌入式微处理器中动态可配置Cache结构的研究[D];华中科技大学;2009年
6 万胜刚;磁盘阵列高容错模式及重构技术研究[D];华中科技大学;2010年
7 马鹏勇;CMT处理器高速缓存的优化技术[D];国防科学技术大学;2007年
8 姬孟洛;实时系统最差情况执行时间分析的研究[D];国防科学技术大学;2006年
9 张琦;多核系统中的程序性能优化研究[D];中国科学技术大学;2010年
10 朱霞;线程级并行的硬件技术研究[D];西北工业大学;2003年
中国硕士学位论文全文数据库 前10条
1 冷冰;基于路访问轨迹和路休眠的高速缓存低功耗研究[D];浙江大学;2012年
2 梁静;基于路预测访问的低功耗高速缓存设计研究[D];浙江大学;2012年
3 吴梦洁;Cache Controller的研究和设计[D];华北电力大学(北京);2004年
4 郭维;高性能微处理器RTL级和体系结构级低功耗设计关键技术研究[D];国防科学技术大学;2011年
5 徐升;通用高性能微处理器的低功耗片上存储系统研究[D];湖南大学;2012年
6 万国平;SMP环境下的多机互联的研究[D];西北工业大学;2004年
7 姜彩萍;互联网高速缓存系统构建和性能分析[D];吉林大学;2004年
8 吴英杰;充分利用高速缓存的高效算法研究[D];福州大学;2004年
9 肖帆;CMP中共享L2Cache失效预测算法研究[D];华中科技大学;2011年
10 成守红;高速数据采集系统的研制[D];电子科技大学;2001年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026