CPU缓存L1/L2/L3工作原理-技术圈

一、前言

在过去的几年中，计算机处理器取得了相当大的进步，晶体管的尺寸每年都在变小，而且这种进步达到了摩尔定律迅速变得多余的地步。

当涉及到处理器时，不仅晶体管和频率很重要，高速缓存也很重要。

在讨论CPU(Central Processing Units)时，您可能听说过高速缓存。但是，我们并没有过多地关注这些数字，它们也不是这些CPU广告的主要亮点。

那么，CPU缓存到底有多重要，它又是如何工作的?

二、什么是CPU缓存?

首先，缓存只是一种非常快速的内存类型。您可能知道，计算机内部有多种内存类型。有一个主存储(如硬盘或SSD)，用于存储大量数据(操作系统和所有程序)。

接下来，我们有随机存取存储器，通常称为RAM。这比主存储要快得多。

最后，CPU自身具有更快的存储单元，我们称之为缓存。

计算机的内存具有基于速度的层次结构，而缓存位于该层次结构的顶部，是最快的。它也是最靠近中央处理的地方，它是CPU本身的一部分。

高速缓存是静态RAM(SRAM)，而系统RAM是动态RAM(DRAM)。静态RAM是一种可以保存数据但是不要用一直刷新的存储器，与DRAM不同，SRAM更加适合用于高速缓存。

三、CPU缓存如何工作?

我们已经知道，程序被设计为一组指令，最终由CPU运行。

当我们运行程序的时候，这些指令必须从主存储器取指令到CPU。这是内存层次结构起作用的地方。

数据首先被加载到RAM中，然后被发送到CPU。因为CPU每秒都能够执行大量指令。为了充分利用其功能，CPU需要访问超高速内存，这是缓存的来源。

内存控制器执行从RAM中获取数据并将其发送到缓存的工作。根据系统中使用的CPU，此控制器可以位于主板的北桥芯片组上，也可以位于CPU本身内部。

然后，高速缓存在CPU内执行数据的来回传输。内存的层次结构也存在于缓存中。

四、缓存级别：L1，L2和L3

CPU缓存分为三个主要的级别，即L1，L2和L3。这里的层次结构是根据缓存速度来划分的。

L1(1级)高速缓存是计算机系统中存在的最快的内存。就访问优先级而言，L1缓存具有CPU在完成特定任务时最可能需要的数据。

就其大小而言，L1高速缓存通常最多可达256KB。但是，一些真正功能强大的CPU现在将其占用近1MB。现在，某些服务器芯片组(如Intel的高端Xeon CPU)具有1-2MB的一级缓存。

L1缓存通常也分为两种方式，分为指令缓存和数据缓存。指令高速缓存处理有关CPU必须执行的操作的信息，而数据高速缓存则保留要在其上执行操作的数据。

L2(2级)缓存比L1缓存慢，但大小更大。它的大小通常在256KB到8MB之间，尽管更新，功能强大的CPU往往会超过此大小。L2高速缓存保存下一步可能由CPU访问的数据。在大多数现代CPU中，L1和L2高速缓存位于CPU内核本身，每个内核都有自己的高速缓存。

L3(3级)高速缓存是最大的高速缓存存储单元，也是最慢的一个。它的范围从4MB到50MB以上。现代CPU在CPU裸片上具有用于L3高速缓存的专用空间，并且占用了很大一部分空间。

五、缓存命中或未命中以及延迟

数据会从RAM依次流到L3高速缓存，然后是L2，最后是L1。

当处理器正在寻找要执行操作的数据时，它首先尝试在L1高速缓存中找到它。如果CPU能够找到它，则该情况称为高速缓存命中。然后，它继续在L2和L3中找到它。

如果找不到数据，它将尝试从主内存访问数据。这称为高速缓存未命中。

现在，众所周知，高速缓存旨在加快主内存和CPU之间的数据传输。

从内存访问数据所需的时间称为延迟，L1具有最低的延迟，是最快的，并且最接近核心，而L3具有最高的延迟。缓存未命中时，延迟会增加很多。这是因为CPU必须从主存储器中获取数据。

随着计算机变得越来越快和越来越好，我们看到延迟减少了。现在，我们拥有低延迟的DDR4 RAM，以及具有低访问时间的超高速SSD作为主要存储，这两项都大大降低了整体延迟。

以前，缓存设计曾经使L2和L3缓存位于CPU外部，这对延迟产生了负面影响。

然而，CPU制造工艺的进步使得在比以前更小的空间中安装数十亿个晶体管。因此，为缓存留出了更多空间，这使缓存尽可能地靠近核心，从而大大减少了延迟。

六、缓存的未来

缓存设计一直在发展，尤其是随着内存变得更便宜，更快和更密集。英特尔和AMD在缓存设计方面进行了相当多的试验，英特尔甚至还在试验L4缓存。CPU市场正在以前所未有的速度向前发展。

这样，我们必定会看到缓存设计跟上CPU不断增长的能力。

缓存设计方面进行了相当多的试验，英特尔甚至还在试验L4缓存。CPU市场正在以前所未有的速度向前发展。

这样，我们必定会看到缓存设计跟上CPU不断增长的能力。

此外，还有很多工作可以减少现代计算机的瓶颈。减少内存延迟可能是其中最大的一部分。业界正在为相同的解决方案而努力，并且未来看起来确实充满希望。

相关阅读：

来源：小麦大叔

转载申明：转载本号文章请注明作者和来源，本号发布文章若存在版权等问题，请留言联系处理，谢谢。

推荐阅读

更多架构相关技术知识总结请参考“架构师技术全联盟书店”相关电子书(35本技术资料打包汇总详情可通过“阅读原文”获取)。

内容持续更新，现下单“架构师技术全店打包汇总(全)”，后续可享全店内容更新“免费”赠阅，格仅收188元(原总价270元)。

温馨提示：

扫描二维码关注公众号，点击阅读原文链接获取“架构师技术全店资料打包汇总(全)”电子书资料详情。