pointer”编译选项的含义

优化你的软件时，发觉"-fomit-frame-pointer"这个选项还是蛮有用的。
 
GCC手册上面这么说：
Don't keep the frame pointer in a register for functions that don't need one. This avoids the instructions to save, set up and restore frame pointers; it also makes an extra register available in many functions. It also makes debugging impossible on some machines.
 
On some machines, such as the VAX, this flag has no effect, because the standard calling sequence automatically handles the frame pointer and nothing is saved by pretending it doesn't exist. The machine-description macro "FRAME_POINTER_REQUIRED" controls whether a target machine supports this flag.
 
这里，引入了一个"frame pointer"的概念，什么是"stack frame pointer(SFP)"呢？
 
我们知道，backtrace是利用堆栈中的信息把函数调用关系层层遍历出来的，其中这里的堆栈信息就是SFP。
一般情况下，每一个函数都包含一个堆栈边界指针，也就是说会存在一个栈底和栈顶指针。在X86下，假设堆栈由上往下发展，栈底大地址而栈顶小地址，那么，通常情况下，寄存器ESP为栈顶指针，而EBP就为栈底指针。而EBP和ESP之间的空间就是这个函数的stack frame。
GCC在默认情况下会在每个函数的开始加入一些堆栈设置代码，而在函数退出的时候恢复原来的样子，SFP就是在这个时候设置的。还是看一下这个时候的汇编代码吧 ;-)
 
环境：X86+RedHat 9.0，gcc 3.2.2
 
源文件如下：
 
$ cat test.c
void a(unsigned long a, unsigned int b)
{
        unsigned long i;
        unsigned int j;
 
        i = a;
        j = b;
 
        i++;
 
        j += 2;
 
}
 
默认编译选项：
$ gcc -c test.c -o with_SFP.o
 
反汇编后是这个样子：
$ objdump -D with_SFP.o
 
with_SFP.o:    file format elf32-i386
 
Disassembly of section .text:
 
00000000 <a>:
  0:  55                      push  %ebp
  1:  89 e5                  mov    %esp,%ebp
  3:  83 ec 08                sub    $0x8,%esp
  6:  8b 45 08                mov    0x8(%ebp),%eax
  9:  89 45 fc                mov    %eax,0xfffffffc(%ebp)
  c:  8b 45 0c                mov    0xc(%ebp),%eax
  f:  89 45 f8                mov    %eax,0xfffffff8(%ebp)
  12:  8d 45 fc                lea    0xfffffffc(%ebp),%eax
  15:  ff 00                  incl  (%eax)
  17:  8d 45 f8                lea    0xfffffff8(%ebp),%eax
  1a:  83 00 02                addl  $0x2,(%eax)
  1d:  c9                      leave 
  1e:  c3                      ret   
Disassembly of section .data:
 
可以看到函数ENTER时首先把上一层函数的EBP入栈，设置本函数的EBP，然后会根据临时变量的数量和对齐要求去设置ESP，也就产生了函数的stack frame。
我们再看看函数的返回："leave"指令相当于"mov %ebp,%esp;pop %ebp",也就是ENTER是两条指令的恢复过程，所以，后面的"ret"指令和"call"指令对应。
这里backtrace就可以根据现有函数EBP指针得知上一个函数的EBP----栈底再往上保存着上一个函数的EBP和EIP，然后就可以得知函数调用的路径。