ASM x64 函数指针未返回正确值

Question

我在汇编中遇到函数指针问题，即使我的函数返回负数，它总是将rax 设置为正数，我用一个比较两个整数的函数做了一个最小的可复制示例，它的作用相同事情：

ASM 功能代码[编辑]：

global foo

section .data
msg: db `superior\n`
msg_len: equ $-msg

section .text
foo:
    push rbx
    mov rbx, rdi
    mov rdi, 2
    mov rsi, 1
    sub rsp, 8  ; align the stack frame
    call rbx
    add rsp, 8
    test rax, rax   ;[EDIT] correct: test eax, eax
    js  bar
    mov rax, 1
    mov rdi, 1
    mov rsi, msg
    mov rdx, msg_len
    syscall

bar:
    mov rdi, 1
    mov rsi, 2
    sub rsp, 8  ; same here
    call rbx
    add rsp, 8
    test rax, rax  ;[EDIT] correct: test eax, eax
    js exit
    mov rax, 1
    mov rdi, 1
    mov rsi, msg
    mov rdx, msg_len
    syscall

exit:
    pop rbx   ;restoring initial data of rbx
    ret

main.c 代码：

#include <stdio.h>

int foo(int (*f)());  //my asm function prototype

int cmp(int i, int j)
{
  printf("%d - %d\n", i, j);
  return(i - j);
}

int main(void)
{
  foo(&cmp);
  return (0);
}

输出是：

2 - 1
superior
1 - 2
superior

但应该只是：

2 - 1
superior

编译：

nasm -f elf64 foo.s
gcc -c main.c -o main.o
gcc main.o foo.o

感谢您的帮助

[编辑] 它不起作用，因为我检查了 rax 而不是 eax，现在它起作用了。感谢您的帮助

Answer 1

int 是 32 位，但 rax 是 64 位寄存器。返回int 的函数会将其返回值放入eax，这通常会将rax 的高半部分归零。所以如果cmp返回-1，这是32位数字0xffffffff，那么rax将包含0x00000000ffffffff。这不是一个负数 64 位数字，所以test rax, rax 不会设置符号标志。

尝试使用test eax, eax 作为您的测试。

Answer 2

您的代码似乎太复杂了。

首先，让我们用 C 之类的语言编写要做的事情：

int foo(int (*f)()) {
  if (cmp(2, 1) > 0) {
    PRINT;
  }
  if (cmp(1, 2) > 0) {
    PRINT;
  }
}

那么，我们就按照这个来写汇编代码吧：

global foo

section .data
msg: db `superior\n`
msg_len: equ $-msg

section .text
  ; int foo(int (*f)()) {
foo:
  mov rbx, rdi   ; function pointer stored in rbx
  ;   if (cmp(2, 1) > 0) {
  mov rdi, 2     ; first integer
  mov rsi, 1     ; second integer
  call rbx       ; call function pointer
  cmp rax, 0
  jle bar        ; jump if rdi <= rsi (signed)
  ;     PRINT;
  mov rax, 1
  mov rdi, 1
  mov rsi, msg
  mov rdx, msg_len
  syscall        ; write "superior\n"
  ;   }
bar:
  ;   if (cmp(1, 2) > 0) {
  mov rdi, 1
  mov rsi, 2
  call rbx
  cmp rax, 0
  jle bar2
  ;     PRINT;
  mov rax, 1
  mov rdi, 1
  mov rsi, msg
  mov rdx, msg_len
  syscall        ; write "superior\n"
  ;   }
bar2:
  ; }
  ret

要保留您的代码，需要修复的要点是：

• ja 用于无符号比较。 jg 应该用于签名比较。
• bar2后面有代码要打印，但ja bar2没有跳转后也有代码要打印。您应该在 bar: 之前添加 ret 以防止执行此操作。