您好、欢迎来到现金彩票网!
当前位置:国民彩票app下载 > 高速缓存 >

软件而不是硬件来管理被称为缓存的高速片上存储体

发布时间:2019-04-24 23:12 来源:未知 编辑:admin

  在今天的计算机中,向主存储器移动数据和从主存储器移动数据消耗了大量的时间和精力,微处理器拥有自己的小型高速存储器组,称为“高速缓存”,用于存储经常使用的数据。传统上,管理缓存需要相当简单的算法,这些算法可以硬连接到芯片中。

  然而,在21世纪,为了满足消费者对稳定增加的计算能力的期望,芯片制造商不得不开始为其芯片配备越来越多的内核或处理单元。随着核心的激增,缓存管理变得更加困难。

  麻省理工学院电气工程与计算机科学系助理教授丹尼尔桑切斯认为,现在是时候将缓存管理转向软件了。本周,在国际并行架构和编译技术大会上,Sanchez和他的学生Nathan Beckmann 展示了一个名为Jigsaw 的新系统,该系统监控多核芯片执行的计算并相应地管理高速缓冲存储器。

  在模拟在16核和64核芯片上执行数百个应用程序的实验中,Sanchez和Beckmann发现Jigsaw平均可以将执行速度提高18% - 在某些情况下可以提高两倍以上 - 同时实际上减少了能耗多达72%。Sanchez认为,Jigsaw提供的性能改进只会随着核心数量的增加而增加。

  在大多数多核芯片中,每个核心都有几个小型私有缓存。但也有所谓的最后一级缓存,它由所有内核共享。“该缓存大约占芯片的40%到60%,”桑切斯说。“这是该地区的重要组成部分,因为它对性能至关重要。如果我们没有那个缓存,一些应用程序会慢一个数量级。“

  物理上,最后一级缓存被分解为单独的存储体并分布在整个芯片上; 对于任何给定的核心,访问最近的银行所花费的时间更少,并且比访问更远的银行消耗更少的能量。但由于最后一级缓存由所有内核共享,因此大多数芯片随机地将数据分配给银行。

  相比之下,Jigsaw监视哪些内核最频繁地访问哪些数据,并且在运行中计算最有效的数据分配给缓存库。例如,由单个核心专门使用的数据存储在该核心附近,而所有核心以相同频率访问的数据存储在芯片的中心附近,从而最小化其必须行进的平均距离。

  Jigsaw还会改变分配给每种类型数据的缓存空间量,具体取决于它的访问方式。经常重复使用的数据比不经常访问或仅访问一次的数据获得更多空间。

  原则上,优化高速缓存空间分配需要评估整个芯片如何在给定所有核心上执行的所有计算的每个可能的高速缓存空间分配的情况下执行。这种计算过于耗时,但是由于忽略了一些在实践中极不可能出现的特别复杂的场景,Sanchez和Beckmann能够开发出一种近似优化算法,即使在核心数量和不同类型的数据急剧增加。

  当然,由于优化是基于Jigsaw对芯片活动的观察,“假设程序将在接下来的20毫秒内按照它们在过去20毫秒内的行为进行处理,这是最佳选择,”Sanchez说。“但是有非常强大的实验证据表明程序通常具有几百毫秒甚至几秒的稳定阶段。”

  桑切斯还指出,这篇新论文仅代表他的团队在将缓存管理转向软件方面的“第一次削减”。展望未来,他们将研究硬件和软件的共同设计,以进一步提高效率,并允许程序员自己根据内存访问模式对数据进行分类,以便Jigsaw不具备完全依靠观察来评估内存分配。

  “我们的计算越来越多地发生在数据中心,”密歇根大学计算机科学助理教授Jason Mars说。“在数据中心领域,能够拥有微体系结构分区并在逐个应用程序的基础上分配资源将非常重要。”

  “当你有多个应用程序在一个盒子里面运行时,”他解释说,“干扰可能会影响彼此的性能。对于目前的商品硬件,我们必须有一些机制来管理工作如何相互伤害。“

  Mars警告说,像Jigsaw这样的系统会在芯片硬件和运行它的软件之间取消一层抽象。“像英特尔这样的公司,一旦他们通过软件层公开微架构配置,就必须将这个界面保留在未来的处理器上,”Mars表示。“因此,如果英特尔希望通过微体系结构做出大胆的改变,他们将不得不保留这种传统支持,这可能会限制他们可以探索的设计选项。”

  “然而,”他补充说,“Jigsaw中的技术似乎非常实用,我可以看到在未来的设计中采用了这种硬件 - 软件接口的一些变体。实际上,这是一种非常引人注目的方法。

  免责声明:本网站图片,文字之类版权申明,因为网站可以由注册用户自行上传图片或文字,本网站无法鉴别所上传图片或文字的知识版权,如果侵犯,请及时通知我们,本网站将在第一时间及时删除。

  L-3 Cincinnati Electronics宣布推出用于无人机系统的新型轻型冷却红外传感器

http://catacurian.net/gaosuhuancun/42.html
锟斤拷锟斤拷锟斤拷QQ微锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷微锟斤拷
关于我们|联系我们|版权声明|网站地图|
Copyright © 2002-2019 现金彩票 版权所有