C语言/C++ 堆栈工作机制

前言

我们经常会讨论这样的问题：什么时候数据存储在堆栈 (Stack) 中，什么时候数据存储在堆 (Heap) 中。我们知道，局部变量是存储在堆栈中的；debug 时，查看堆栈可以知道函数的调用顺序；函数调用时传递参数，事实上是把参数压入堆栈，听起来，堆栈象一个大杂烩。那么，堆栈 (Stack) 到底是如何工作的呢？本文将详解 C/C++ 堆栈的工作机制。阅读时请注意以下几点：

1）本文讨论的编译环境是 Visual C/C++，由于高级语言的堆栈工作机制大致相同，因此对其他编译环境或高级语言如 C# 也有意义。

2）本文讨论的堆栈，是指程序为每个线程分配的默认堆栈，用以支持程序的运行，而不是指程序员为了实现算法而自己定义的堆栈。

3)  本文讨论的平台为 intel x86。

4）本文的主要部分将尽量避免涉及到汇编的知识，在本文最后可选章节，给出前面章节的反编译代码和注释。

5）结构化异常处理也是通过堆栈来实现的(当你使用 try…catch 语句时，使用的就是  c++ 对 windows 结构化异常处理的扩展)，但是关于结构化异常处理的主题太复杂了，本文将不会涉及到。

从一些基本的知识和概念开始

1) 程序的堆栈是由处理器直接支持的。在 intel x86 的系统中，堆栈在内存中是从高地址向低地址扩展（这和自定义的堆栈从低地址向高地址扩展不同），如下图所示：

 因此，栈顶地址是不断减小的，越后入栈的数据，所处的地址也就越低。

2) 在 32 位系统中，堆栈每个数据单元的大小为 4 字节。小于等于 4 字节的数据，比如字节、字、双字和布尔型，在堆栈中都是占 4 个字节的；大于 4 字节的数据在堆栈中占4字节整数倍的空间。

3) 和堆栈的操作相关的两个寄存器是 EBP 寄存器和 ESP 寄存器的，本文中，你只需要把 EBP 和 ESP 理解成 2 个指针就可以了。ESP 寄存器总是指向堆栈的栈顶，执行 PUSH 命令向堆栈压入数据时，ESP减4，然后把数据拷贝到ESP指向的地址；执行POP 命令时，首先把 ESP 指向的数据拷贝到内存地址/寄存器中，然后 ESP 加 4。EBP 寄存器是用于访问堆栈中的数据的，它指向堆栈中间的某个位置（具体位置后文会具体讲解），函数的参数地址比 EBP 的值高，而函数的局部变量地址比 EBP 的值低，因此参数或局部变量总是通过 EBP 加减一定的偏移地址来访问的，比如，要访问函数的第一个参数为 EBP+8。

4) 堆栈中到底存储了什么数据？包括了：函数的参数，函数的局部变量，寄存器的值（用以恢复寄存器），函数的返回地址以及用于结构化异常处理的数据（当函数中有 try…catch 语句时才有，本文不讨论）。这些数据是按照一定的顺序组织在一起的， 我们称之为一个堆栈帧（Stack Frame）。一个堆栈帧对应一次函数的调用。在函数开始时，对应的堆栈帧已经完整地建立了（所有的局部变量在函数帧建立时就已经分配好空间了，而不是随着函数的执行而不断创建和销毁的）；在函数退出时，整个函数帧将被销毁。

5) 在文中，我们把函数的调用者称为 caller（调用者），被调用的函数称为callee（被调用者）。之所以引入这个概念，是因为一个函数帧的建立和清理，有些工作是由 Caller 完成的，有些则是由 Callee 完成的。

开始讨论堆栈是如何工作的

我们来讨论堆栈的工作机制。堆栈是用来支持函数的调用和执行的，因此，我们下面将通过一组函数调用的例子来讲解，看下面的代码：

int foo1(int m, int n){    int p=m*n;    return p;}int foo(int a, int b){    int c=a+1;        int d=b+1;        int e=foo1(c,d);        return e;}int main(){    int result=foo(3,4);    return 0;}

这段代码本身并没有实际的意义，我们只是用它来跟踪堆栈。下面的章节我们来跟踪堆栈的建立，堆栈的使用和堆栈的销毁。

堆栈的建立

我们从main函数执行的第一行代码，即 int result=foo(3,4); 开始跟踪。这时 main 以及之前的函数对应的堆栈帧已经存在在堆栈中了，如下图所示：

图1

参数入栈 

当 foo 函数被调用，首先，caller（此时caller为main函数）把 foo 函数的两个参数：a=3,b=4 压入堆栈。参数入栈的顺序是由函数的调用约定 (Calling Convention) 决定的，我们将在后面一个专门的章节来讲解调用约定。一般来说，参数都是从右往左入栈的，因此，b=4 先压入堆栈，a=3 后压入，如图：

图2

返回地址入栈

我们知道，当函数结束时，代码要返回到上一层函数继续执行，那么，函数如何知道该返回到哪个函数的什么位置执行呢？函数被调用时，会自动把下一条指令的地址压入堆栈，函数结束时，从堆栈读取这个地址，就可以跳转到该指令执行了。如果当前＂call foo＂指令的地址是 0x00171482 ,由于 call 指令占 5 个字节，那么下一个指令的地址为 0x00171487，0x00171487 将被压入堆栈:

图3

代码跳转到被调用函数执行

返回地址入栈后，代码跳转到被调用函数 foo 中执行。到目前为止，堆栈帧的前一部分，是由 caller 构建的；而在此之后，堆栈帧的其他部分是由 callee 来构建。

EBP指针入栈

在 foo 函数中，首先将 EBP 寄存器的值压入堆栈。因为此时 EBP 寄存器的值还是用于 main 函数的，用来访问 main 函数的参数和局部变量的，因此需要将它暂存在堆栈中，在 foo 函数退出时恢复。同时，给 EBP 赋于新值。

1）将 EBP 压入堆栈

2）把 ESP 的值赋给 EBP

图4

这样一来，我们很容易发现当前EBP寄存器指向的堆栈地址就是 EBP 先前值的地址，你还会发现发现，EBP+4 的地址就是函数返回值的地址，EBP+8 就是函数的第一个参数的地址（第一个参数地址并不一定是 EBP+8，后文中将讲到）。因此，通过 EBP 很容易查找函数是被谁调用的或者访问函数的参数（或局部变量）。

为局部变量分配地址

接着，foo 函数将为局部变量分配地址。程序并不是将局部变量一个个压入堆栈的，而是将 ESP 减去某个值，直接为所有的局部变量分配空间，比如在 foo 函数中有 ESP=ESP-0x00E4，（根据烛秋兄在其他编译环境上的测试，也可能使用 push 命令分配地址，本质上并没有差别，特此说明）如图所示：

图5

奇怪的是，在 debug 模式下，编译器为局部变量分配的空间远远大于实际所需，而且局部变量之间的地址不是连续的（据我观察，总是间隔 8 个字节）如下图所示：

图6

我还不知道编译器为什么这么设计，或许是为了在堆栈中插入调试数据，不过这无碍我们今天的讨论。

通用寄存器入栈

最后，将函数中使用到的通用寄存器入栈，暂存起来，以便函数结束时恢复。在 foo 函数中用到的通用寄存器是 EBX，ESI，EDI，将它们压入堆栈，如图所示：

图7

至此，一个完整的堆栈帧建立起来了。

堆栈特性分析

上一节中，一个完整的堆栈帧已经建立起来，现在函数可以开始正式执行代码了。本节我们对堆栈的特性进行分析，有助于了解函数与堆栈帧的依赖关系。

1）一个完整的堆栈帧建立起来后，在函数执行的整个生命周期中，它的结构和大小都是保持不变的；不论函数在什么时候被谁调用，它对应的堆栈帧的结构也是一定的。

2）在 A 函数中调用B函数，对应的，是在A函数对应的堆栈帧“下方”建立 B 函数的堆栈帧。例如在 foo 函数中调用 foo1 函数，foo1 函数的堆栈帧将在 foo 函数的堆栈帧下方建立。如下图所示：

图8 

3）函数用 EBP 寄存器来访问参数和局部变量。我们知道，参数的地址总是比 EBP 的值高，而局部变量的地址总是比 EBP 的值低。而在特定的堆栈帧中，每个参数或局部变量相对于 EBP 的地址偏移总是固定的。因此函数对参数和局部变量的的访问是通过 EBP 加上某个偏移量来访问的。比如，在 foo 函数中，EBP+8 为第一个参数的地址，EBP-8 为第一个局部变量的地址。

4）如果仔细思考，我们很容易发现 EBP 寄存器还有一个非常重要的特性，请看下图中：

图9

我们发现，EBP 寄存器总是指向先前的 EBP，而先前的 EBP 又指向先前的先前的 EBP，这样就在堆栈中形成了一个链表！这个特性有什么用呢，我们知道 EBP+4 地址存储了函数的返回地址，通过该地址我们可以知道当前函数的上一级函数（通过在符号文件中查找距该函数返回地址最近的函数地址，该函数即当前函数的上一级函数），以此类推，我们就可以知道当前线程整个的函数调用顺序。事实上，调试器正是这么做的，这也就是为什么调试时我们查看函数调用顺序时总是说“查看堆栈”了。

返回值是如何传递的

堆栈帧建立起后，函数的代码真正地开始执行，它会操作堆栈中的参数，操作堆栈中的局部变量，甚至在堆（Heap）上创建对象，balabala….，终于函数完成了它的工作，有些函数需要将结果返回给它的上一层函数，这是怎么做的呢？

首先，caller 和 callee 在这个问题上要有一个“约定”，由于 caller 是不知道 callee 内部是如何执行的，因此 caller 需要从 callee 的函数声明就可以知道应该从什么地方取得返回值。同样的，callee 不能随便把返回值放在某个寄存器或者内存中而指望Caller 能够正确地获得的，它应该根据函数的声明，按照“约定”把返回值放在正确的”地方“。下面我们来讲解这个“约定”： 

1）首先，如果返回值等于 4 字节，函数将把返回值赋予EAX寄存器，通过 EAX 寄存器返回。例如返回值是字节、字、双字、布尔型、指针等类型，都通过 EAX 寄存器返回。

2）如果返回值等于 8 字节，函数将把返回值赋予 EAX 和 EDX 寄存器，通过 EAX 和 EDX 寄存器返回，EDX 存储高位 4 字节，EAX存储低位 4 字节。例如返回值类型为 __int64 或者 8 字节的结构体通过 EAX 和 EDX 返回。

3)  如果返回值为 double 或 float 型，函数将把返回值赋予浮点寄存器，通过浮点寄存器返回。

4）如果返回值是一个大于 8 字节的数据，将如何传递返回值呢？这是一个比较麻烦的问题，我们将详细讲解：

我们修改 foo 函数的定义如下并将它的代码做适当的修改：

MyStruct foo(`int a, int b)`{    ...}

MyStruct定义为：

struct MyStruct{    int value1;    __int64 value2;    bool value3;};

 这时，在调用 foo 函数时参数的入栈过程会有所不同，如下图所示：

图10

caller 会在压入最左边的参数后，再压入一个指针，我们姑且叫它ReturnValuePointer，ReturnValuePointer 指向 caller 局部变量区的一块未命名的地址，这块地址将用来存储 callee 的返回值。函数返回时，callee 把返回值拷贝到ReturnValuePointer 指向的地址中，然后把 ReturnValuePointer 的地址赋予 EAX 寄存器。函数返回后，caller 通过 EAX 寄存器找到 ReturnValuePointer，然后通过ReturnValuePointer 找到返回值，最后，caller 把返回值拷贝到负责接收的局部变量上（如果接收返回值的话）。

你或许会有这样的疑问，函数返回后，对应的堆栈帧已经被销毁，而ReturnValuePointer 是在该堆栈帧中，不也应该被销毁了吗？对的，堆栈帧是被销毁了，但是程序不会自动清理其中的值，因此 ReturnValuePointer 中的值还是有效的。

堆栈帧的销毁

当函数将返回值赋予某些寄存器或者拷贝到堆栈的某个地方后，函数开始清理堆栈帧，准备退出。堆栈帧的清理顺序和堆栈建立的顺序刚好相反：（堆栈帧的销毁过程就不一一画图说明了）

    1）如果有对象存储在堆栈帧中，对象的析构函数会被函数调用。

    2）从堆栈中弹出先前的通用寄存器的值，恢复通用寄存器。

    3）ESP 加上某个值，回收局部变量的地址空间（加上的值和堆栈帧建立时分配给局部变量的地址大小相同）。

    4）从堆栈中弹出先前的 EBP 寄存器的值，恢复 EBP 寄存器。

    5）从堆栈中弹出函数的返回地址，准备跳转到函数的返回地址处继续执行。

    6）ESP 加上某个值，回收所有的参数地址。

前面 1-5 条都是由 callee 完成的。而第 6 条，参数地址的回收，是由 caller 或者callee 完成是由函数使用的调用约定（calling convention ）来决定的。下面的小节我们就来讲解函数的调用约定。

函数的调用约定（calling convention）

函数的调用约定 (calling convention) 指的是进入函数时，函数的参数是以什么顺序压入堆栈的，函数退出时，又是由谁（Caller还是Callee）来清理堆栈中的参数。有 2 个办法可以指定函数使用的调用约定：

1）在函数定义时加上修饰符来指定，如

void __thiscall mymethod();{    ...}

2）在 VS 工程设置中为工程中定义的所有的函数指定默认的调用约定：在工程的主菜单打开 Project|Project Property|Configuration Properties|C/C++|Advanced|Calling Convention，选择调用约定（注意：这种做法对类成员函数无效）。

常用的调用约定有以下3种：

1）__cdecl。这是 VC 编译器默认的调用约定。其规则是：参数从右向左压入堆栈，函数退出时由 caller 清理堆栈中的参数。这种调用约定的特点是支持可变数量的参数，比如 printf 方法。由于 callee 不知道caller到底将多少参数压入堆栈，因此callee 就没有办法自己清理堆栈，所以只有函数退出之后，由 caller 清理堆栈，因为 caller 总是知道自己传入了多少参数。

2）__stdcall。所有的 Windows API 都使用 __stdcall。其规则是：参数从右向左压入堆栈，函数退出时由 callee 自己清理堆栈中的参数。由于参数是由 callee 自己清理的，所以 __stdcall 不支持可变数量的参数。

3) __thiscall。类成员函数默认使用的调用约定。其规则是：参数从右向左压入堆栈，x86 构架下 this 指针通过 ECX 寄存器传递，函数退出时由 callee 清理堆栈中的参数，x86构架下this指针通过ECX寄存器传递。同样不支持可变数量的参数。如果显式地把类成员函数声明为使用__cdecl或者__stdcall，那么，将采用__cdecl或者__stdcall的规则来压栈和出栈，而this指针将作为函数的第一个参数最后压入堆栈，而不是使用ECX寄存器来传递了。

反编译代码的跟踪（不熟悉汇编可跳过）

以下代码为和 foo 函数对应的堆栈帧建立相关的代码的反编译代码，我将逐行给出注释，可对照前文中对堆栈的描述：

main 函数中 int result=foo(3,4); 的反汇编：

008A147E  push        4 //b=4 压入堆栈008A1480  push        3 //a=3 压入堆栈,到达图2的状态008A1482  call        foo (8A10F5h) //函数返回值入栈,转入foo中执行,到达图3的状态008A1487  add         esp,8 //foo返回,由于采用__cdecl,由Caller清理参数008A148A  mov         dword ptr [result],eax //返回值保存在EAX中,把EAX赋予result变量

下面是 foo 函数代码正式执行前和执行后的反汇编代码

008A13F0  push        ebp //把ebp压入堆栈008A13F1  mov         ebp,esp //ebp指向先前的ebp,到达图4的状态008A13F3  sub         esp,0E4h //为局部变量分配0E4字节的空间,到达图5的状态008A13F9  push        ebx //压入EBX008A13FA  push        esi //压入ESI008A13FB  push        edi //压入EDI,到达图7的状态008A13FC  lea         edi,[ebp-0E4h] //以下4行把局部变量区初始化为每个字节都等于cch008A1402  mov         ecx,39h008A1407  mov         eax,0CCCCCCCCh008A140C  rep stos    dword ptr es:[edi]...... //省略代码执行N行......008A1436  pop         edi //恢复EDI008A1437  pop         esi //恢复ESI008A1438  pop         ebx //恢复EBX008A1439  add         esp,0E4h //回收局部变量地址空间008A143F  cmp         ebp,esp //以下3行为Runtime Checking,检查ESP和EBP是否一致008A1441  call        @ILT+330(__RTC_CheckEsp) (8A114Fh)008A1446  mov         esp,ebp008A1448  pop         ebp //恢复EBP008A1449  ret //弹出函数返回地址，跳转到函数返回地址执行                                            //(__cdecl调用约定,Callee未清理参数)

参考

Debug Tutorial Part 2: The Stack

Intel汇编语言程序设计(第四版) 第8章