总线错误：Mac OS X 上带有 GCC 的内联 x86 程序集

Question

当我尝试在 Snow Leopard 上运行使用 gcc 4.2.1 编译的这段代码时，出现“总线错误”

#include <stdio.h>

/*__declspec(naked)*/ void
doStuff(unsigned long int val, unsigned long int flags, unsigned char *result)
{
    __asm{
        push eax
        push ebx
       push ecx
        push edx

        mov eax, dword ptr[esp + 24]//val
        mov ebx, dword ptr[esp + 28]//flags
        //mov ecx, dword ptr[esp + 32]//result

        and eax, ebx
        mov result, eax

        pop edx
        pop ecx
        pop ebx
        pop eax

        ret
    }
}

int main(int argc, char *argv[])
{
    unsigned long val = 0xAA00A1F2; 
    unsigned long flags = 0x00100001;   
    unsigned char result = 0x0;

    doStuff(val, flags, &result);   
    printf("Result is: %2Xh\n", result);

    return 0;
}

我正在使用以下命令编译gcc -fasm-blocks -m32 -o so so.c，没有任何错误或警告。我正在尝试在 doStuff() 函数中运行一些汇编指令并将答案分配给结果。我做错了什么？

注意：这在 Windows 上的 Visual Studio 中运行良好，但我必须注释掉 declspec(naked) 才能让 gcc 在 Mac 上编译它。

Answer 1

您收到总线错误的原因是您在汇编代码中调用了ret。 ret 使程序控制转移到堆栈顶部的返回地址，您可以通过使用push 和pop 来操作它。我强烈建议在英特尔指令集参考中查找 ret 的作用。

以下是我在运行 Mac OS X 10.6.7 的 iMac 上编译并成功运行的代码。

#include <stdio.h>

/*__declspec(naked)*/ void
doStuff(unsigned long int val, unsigned long int flags, unsigned char *result)
{
  __asm
    {
        push eax
        push ebx
        push ecx

        mov eax, dword ptr[ebp + 8]  //val
        mov ebx, dword ptr[ebp + 12] //flags
        mov ecx, dword ptr[ebp + 16] //result

        and eax, ebx
        mov [ecx], eax

        pop ecx
        pop ebx
        pop eax
      }
}

int main(int argc, char *argv[])
{
  unsigned long val =   0xAA00A1F2;
  unsigned long flags = 0x00100002;
  unsigned char result = 0x0;

  doStuff(val, flags, &result);
  printf("Result is: %2Xh\n", result);

  return 0;
}

值得注意的变化是：

1. 在内联程序集中删除ret
2. 使用寄存器ebp而不是esp将参数引用到doStuff
3. 将flags 更改为0x00100002

更改 (1) 修复了总线错误，(2) 使引用参数更加一致，(3) 只是确保函数按预期工作的快速方法。

最后，我强烈建议您熟悉 GNU 调试器 GDB（如果您还没有的话）。您可以在项目页面http://www.gnu.org/software/gdb/ 找到有关它的更多信息，以及在http://developer.apple.com/library/mac/#documentation/DeveloperTools/gdb/gdb/gdb_toc.html 找到有关 Mac 实现和教程的信息。

编辑：添加到 GDB 的基本信息/链接，

Answer 2

编译器向函数调用添加序言和尾声，这些序言和尾声负责设置堆栈帧、为局部变量保留堆栈空间、销毁堆栈帧并返回给调用者。

使用帧指针时没有局部变量的函数的典型序言可能如下所示：

push ebp
mov ebp, esp

这会将调用者的帧指针保存在堆栈中，并使当前帧指针等于函数进入时的堆栈指针。

相应的尾声是：

pop ebp
ret

恢复前一帧指针并返回给调用者。

如果您告诉 gcc 不要使用帧指针 (-fomit-frame-pointer)，则相应的序言将为空，而结尾将仅包含一个 ret。

__declspec(naked) 可能类似于 gcc 的 __attribute__((naked)) (gcc's function attributes)，它只适用于某些架构，不适用于 x86。因此，在 gcc 上，您最好将调用者返回给编译器，正如 Dean Pucsek 建议的那样。