首页> 中文学位 >基于使用行为的Cache设计和运行时Cache性能优化
【6h】

基于使用行为的Cache设计和运行时Cache性能优化

代理获取

目录

文摘

英文文摘

论文说明:图表目录

1绪论

1.1课题背景

1.2研究动机

1.3本文的主要工作

1.4本文的组织结构

2高性能Cache设计和性能优化综述

2.1Cache技术的背景

2.2提高直接映射或低关联度Cache的性能

2.2.1使用替代地址索引函数

2.2.2访问重映射

2.2.3辅助结构

2.3提高L2 Cache的性能

2.3.1改进的管理策略

2.3.2Cache过滤

2.3.3替换的Cache结构

2.4目前研究存在的问题

2.5本章小结

3使用泄漏组缓存减少低关联度L1 Cache的缺失局部性

3.1低关联度L1 Cache的缺失局部性

3.1.1短缺失周期中的泄漏组

3.1.2泄漏组的连续性

3.2通过泄漏组缓存降低缺失局部性

3.2.1 LSC的结构

3.2.2 LSC的操作

3.2.3泄漏组的预测

3.3本章小结

4使用较少重用过滤器提高L2 Cache的性能

4.1使用较少重用过滤机制提高重利用率

4.1.1 L2 Cache块的重利用率问题

4.1.2解决方法:较少重用过滤

4.2较少重用预测器的工作原理

4.2.1重用频率的预测

4.2.2较少重用块的生命跨度

4.3较少重用预测器的设计

4.3.1结构

4.3.2操作

4.3.3撤销阈值的调整

4.4本章小结

5实验结果和分析

5.1实验方法

5.1.1系统配置

5.1.2测试程序集

5.2泄漏组缓存实验结果和分析

5.2.1泄漏组缓存的特征

5.2.2对缺失率的影响

5.2.3分析

5.3较少重用过滤器实验结果和分析

5.3.1较少重用过滤器的特征

5.3.2对缺失率的影响

5.3.3对系统性能的影响

5.3.4分析

5.3.5和其它最新方案的比较

5.4本章小节

6总结与展望

参考文献

攻读硕士学位期间主要研究成果

致谢

展开▼

摘要

内存已成为当前计算机系统性能的主要瓶颈之一,它的访问速度通常比处理器慢上数百倍。为缩小内存和处理器间的速度差异,cache得到了普遍应用。它对计算机性能的影响也随内存延时和程序内存需求的持续增加而日益增大。Cache工作的基础是程序对数据访问的局部性。现有的设计较少关注各级cache数据访问的本地局部性特征以及不同程序或者程序的不同阶段对数据的不同访问行为,因此,难以使cache充分适应多样化的局部性,限制了cache的性能。本文从新的角度分析了程序对各级cache的不同使用行为特征,提出了基于使用行为的cache设计和运行时cache性能优化。
   针对L1 cache,本文研究了它的缺失局部性。采用本文提出的短缺失周期作为程序阶段的标尺,本文观察到L1 cache的缺失主要来自少数几个泄漏组,并且,这些泄漏组具有良好的连续性和可预测性。基于上述现象,本文提出了使用泄漏组缓存结构来减少低关联度cache的缺失局部性。通过预测泄漏组的出现位置,泄漏组缓存于运行时动态地缓存这些泄漏组,在不影响访问延时的前提下减少冲突缺失。
   在L2 cache中,传统的LRU替换策略对大于cache容量的工作集表现极差,导致了大量较少重用块的出现,此时,可通过只在cache中保留一部分工作集来提高性能。现有解决方案通过过滤未重用块来实现这一目标,但是受到未重用块数量的严格限制,它们可能由于未重用块的缺乏而失效。本文提出了一种新的基于重用频率的过滤机制。该过滤机制通过预测和过滤掉较少重用块而不单单是未重用块,可以增加将程序工作集最频繁访问的部分容纳入cache的可能性,克服了现有的只过滤未重用块的机制的缺陷。本文还提出了较少重用过滤器(LRF)结构来实现上述机制。LRF利用重用频率预测器从数据访问流中准确识别出较少重用块。同时,基于本文观察到的较少重用块的生命周期较短的特性,LRF将过滤出的块放入过滤缓存以充分利用,防止它们引发额外的缺失。
   实验结果表明,LRF在不对L2 cache的替换策略做任何修改的情况下,可提高有不同使用行为的程序性能。为一个传统结构的512KB LRU管理的L2 cache增加包含512单元过滤缓存的LRF,平均能够降低27.5%的MPKI,缩小LRU和OPT间74.4%的性能差距。比较表明,在相同的硬件代价下,LRF在性能上优于最新的其它方案。

著录项

相似文献

  • 中文文献
  • 外文文献
  • 专利
代理获取

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号