CPU缓存L1/L2/L3工作原理
共 2233字，需浏览 5分钟
·
2020-12-07 01:42
来源：Java技术驿站
一、前言
在过去的几年中，计算机处理器取得了相当大的进步，晶体管的尺寸每年都在变小，而且这种进步达到了摩尔定律迅速变得多余的地步。
当涉及到处理器时，不仅晶体管和频率很重要，高速缓存也很重要。
在讨论CPU(Central Processing Units)时，您可能听说过高速缓存。但是，我们并没有过多地关注这些数字，它们也不是这些CPU广告的主要亮点。
那么，CPU缓存到底有多重要，它又是如何工作的?
二、什么是CPU缓存?
首先，缓存只是一种非常快速的内存类型。您可能知道，计算机内部有多种内存类型。有一个主存储(如硬盘或SSD)，用于存储大量数据(操作系统和所有程序)。
接下来，我们有随机存取存储器，通常称为RAM。这比主存储要快得多。
最后，CPU自身具有更快的存储单元，我们称之为缓存。
计算机的内存具有基于速度的层次结构，而缓存位于该层次结构的顶部，是最快的。它也是最靠近中央处理的地方，它是CPU本身的一部分。
高速缓存是静态RAM(SRAM)，而系统RAM是动态RAM(DRAM)。静态RAM是一种可以保存数据但是不要用一直刷新的存储器，与DRAM不同，SRAM更加适合用于高速缓存。
三、CPU缓存如何工作?
我们已经知道，程序被设计为一组指令，最终由CPU运行。
当我们运行程序的时候，这些指令必须从主存储器取指令到CPU。这是内存层次结构起作用的地方。
数据首先被加载到RAM中，然后被发送到CPU。因为CPU每秒都能够执行大量指令。为了充分利用其功能，CPU需要访问超高速内存，这是缓存的来源。
内存控制器执行从RAM中获取数据并将其发送到缓存的工作。根据系统中使用的CPU，此控制器可以位于主板的北桥芯片组上，也可以位于CPU本身内部。
然后，高速缓存在CPU内执行数据的来回传输。内存的层次结构也存在于缓存中。
四、缓存级别：L1，L2和L3
CPU缓存分为三个主要的级别，即L1，L2和L3。这里的层次结构是根据缓存速度来划分的。
L1(1级)高速缓存是计算机系统中存在的最快的内存。就访问优先级而言，L1缓存具有CPU在完成特定任务时最可能需要的数据。
就其大小而言，L1高速缓存通常最多可达256KB。但是，一些真正功能强大的CPU现在将其占用近1MB。现在，某些服务器芯片组(如Intel的高端Xeon CPU)具有1-2MB的一级缓存。
L1缓存通常也分为两种方式，分为指令缓存和数据缓存。指令高速缓存处理有关CPU必须执行的操作的信息，而数据高速缓存则保留要在其上执行操作的数据。
L2(2级)缓存比L1缓存慢，但大小更大。它的大小通常在256KB到8MB之间，尽管更新，功能强大的CPU往往会超过此大小。L2高速缓存保存下一步可能由CPU访问的数据。在大多数现代CPU中，L1和L2高速缓存位于CPU内核本身，每个内核都有自己的高速缓存。
L3(3级)高速缓存是最大的高速缓存存储单元，也是最慢的一个。它的范围从4MB到50MB以上。现代CPU在CPU裸片上具有用于L3高速缓存的专用空间，并且占用了很大一部分空间。
五、缓存命中或未命中以及延迟
数据会从RAM依次流到L3高速缓存，然后是L2，最后是L1。
当处理器正在寻找要执行操作的数据时，它首先尝试在L1高速缓存中找到它。如果CPU能够找到它，则该情况称为高速缓存命中。然后，它继续在L2和L3中找到它。
如果找不到数据，它将尝试从主内存访问数据。这称为高速缓存未命中。
现在，众所周知，高速缓存旨在加快主内存和CPU之间的数据传输。
从内存访问数据所需的时间称为延迟，L1具有最低的延迟，是最快的，并且最接近核心，而L3具有最高的延迟。缓存未命中时，延迟会增加很多。这是因为CPU必须从主存储器中获取数据。
随着计算机变得越来越快和越来越好，我们看到延迟减少了。现在，我们拥有低延迟的DDR4 RAM，以及具有低访问时间的超高速SSD作为主要存储，这两项都大大降低了整体延迟。
以前，缓存设计曾经使L2和L3缓存位于CPU外部，这对延迟产生了负面影响。
然而，CPU制造工艺的进步使得在比以前更小的空间中安装数十亿个晶体管。因此，为缓存留出了更多空间，这使缓存尽可能地靠近核心，从而大大减少了延迟。
六、缓存的未来
缓存设计一直在发展，尤其是随着内存变得更便宜，更快和更密集。英特尔和AMD在缓存设计方面进行了相当多的试验，英特尔甚至还在试验L4缓存。CPU市场正在以前所未有的速度向前发展。
这样，我们必定会看到缓存设计跟上CPU不断增长的能力。
缓存设计方面进行了相当多的试验，英特尔甚至还在试验L4缓存。CPU市场正在以前所未有的速度向前发展。
这样，我们必定会看到缓存设计跟上CPU不断增长的能力。
此外，还有很多工作可以减少现代计算机的瓶颈。减少内存延迟可能是其中最大的一部分。业界正在为相同的解决方案而努力，并且未来看起来确实充满希望。
推荐阅读：
专注服务器后台技术栈知识总结分享
欢迎关注交流共同进步