（交叉）在clang的windows上编译64位程序集（来自linux）

Question

我正在用 C 和汇编语言编写一个小型库。我几乎完成了linux版本。我用-static -nostdlib 构建，让windows 构建linux 二进制文件很简单。在 linux 上，我使用程序集为 main 获取 argc+argv 并通过 syscall 实现 linux 调用，这样我就可以执行 mmap、打开/写入/读取/关闭等操作。

现在我想为 windows 编写程序集。据我了解，我不想进行系统调用或依赖硬编码地址。在研究时，我发现few examples 使用 NASM 和 MASM 通过在程序集文件中指定函数名称来调用窗口函数。我想编写与 clang 兼容的程序集，而且我对程序集很陌生

我的问题是如何从 clang 理解的程序集文件中调用 OpenFile 和 VirtualAlloc？我可能需要哪些构建选项？我最终会想从 linux 构建 windows 二进制文件，但我将从在 windows 上构建开始，直到我得到程序集和我的其余代码工作

Answer 1

在 64 位 Windows 上调用系统函数需要将函数名标记为从其 DLL 导入、对齐 RSP、推送或加载其参数、创建 影子空间、调用函数名并最终恢复 RSP到 equilibrum （到它在调用之前的相同值）。

函数 OpenFile 已弃用，MS 建议改为使用 CreateFileA。
查看示例：快速版本的调用WinABI： 以下示例采用 Intel 语法，可在 Windows 上使用euroasm.exe example.asm 进行汇编。它可能需要对其他汇编器进行一些修改：SPL 在其他一些汇编器中称为SPB，这也可能需要default rel 更喜欢LEA 和ADD qword [RSP],8 的RIP 相对编码而不是ADDQ [RSP],8。 如果您的工具更喜欢 AT&T 语法而不是 Intel 语法，请更改 ASM 操作数的顺序并使用 % 前缀寄存器名称。

IMPORT CreateFileA, LIB="kernel32.dll" 

 PUSH RSP                    ; Store original stack pointer value (equilibrum).
 TEST SPL,1000b              ; Test RSP OWORD alignment at run-time.
 JNZ .WinABI1                ; Skip to the label when not aligned.
 PUSH RSP                    ; Store and update 2nd copy of original RSP (equilibrum).
 ADDQ [RSP],8                ; Those two instructions aren't executed if RSP was properly aligned.
.WinABI1:                    ; Local label. 
 PUSHQ 0                     ; Push 7th argument.
 PUSHQ FILE_ATTRIBUTE_NORMAL ; Push 6th argument.
 PUSHQ OPEN_EXISTING         ; Push 5th argument.
 MOV R9,0                    ; Load 4th argument.
 MOV R8,FILE_SHARE_READ      ; Load 3rd argument.
 MOV RDX,GENERIC_READ        ; Load 2nd argument.
 LEA RCX,[FileName]          ; Load 1st argument.
 SUB RSP,4*8                 ; Make room for shadow space in fast mode. RSP is OWORD-aligned.
 CALL CreateFileA            ; Call the imported function.
 LEA RSP,[RSP+7*8]           ; Discard transferred arguments, keep RFlags.
 POP RSP                     ; Restore RSP to equilibrum from 1st or 2nd copy.

与 Linux 不同，如果您希望在 FileName 中允许非 ASCII 字符，则它们应采用宽 (UTF-16) 编码，并且应调用 CreateFileW 而不是 CreateFileA。
虽然在 64 位 Windows 版本中调用约定有很大不同，但函数仍在从%SystemRoot%\System32\kernel32.dll、%SystemRoot%\System32\user32.dll 等导入。