本地键盘挂钩终止目标进程

Question

我正在尝试使用托管 C# 代码中的 C++ DLL 将 LOCAL 键盘挂钩安装到进程中，如下所示：

public class KeyboardHook
{
    [UnmanagedFunctionPointer(CallingConvention.StdCall)]
    public delegate IntPtr HookCallback(int nCode, IntPtr wParam, IntPtr lParam);

    [DllImport("DLL.dll", CallingConvention = CallingConvention.Cdecl)]
    protected static extern IntPtr Install(int idHook, IntPtr windowHandle, HookCallback callback);

    private IntPtr instance;
    private HookCallback handler;

    public KeyboardHook()
    {
        instance = IntPtr.Zero;
        handler = Callback;
    }

    public void Install(Process process)
    {
        instance = Install(WH_KEYBOARD, process.MainWindowHandle, handler);
    }

    public void Uninstall()
    {
        UnhookWindowsHookEx(instance);
    }

    private IntPtr Callback(int nCode, IntPtr wParam, IntPtr lParam)
    {
        // TODO Use hook data here

        return CallNextHookEx(instance, nCode, wParam, lParam);
    }
}

C++ DLL 代码应该足以将挂钩数据分派给 C# 的 Callback 函数，如下所示：

// dll.h
#pragma data_seg(".foo")
HOOKPROC _hookCallback = NULL;
#pragma comment(linker, "/SECTION:.foo,RWS")
#pragma data_seg()

static HINSTANCE _moduleHandle = NULL;

extern "C" __declspec(dllexport)
HHOOK Install(int idHook, HWND window, HOOKPROC hookCallback);

extern "C" __declspec(dllexport)
LRESULT CALLBACK HookProc(int code, WPARAM wparam, LPARAM lparam);

// dll.cpp
HHOOK Install(int idHook, HWND window, HOOKPROC hookCallback)
{
    auto processId = 0ul;
    auto threadId = GetWindowThreadProcessId(window, &processId);

    _hookCallback = hookCallback;
    _hookCallback(-1, NULL, NULL); // Test callback (works)

    return SetWindowsHookExA(idHook, HookProc, _moduleHandle, threadId);
}

LRESULT CALLBACK HookProc(int code, WPARAM wParam, LPARAM lParam)
{
    // The following line terminates the target process
    return _hookCallback(code, wParam, lParam);
}

BOOL APIENTRY DllMain(HMODULE hModule, DWORD ul_reason_for_call, LPVOID lpReserved)
{
    switch (ul_reason_for_call)
    {
        case DLL_PROCESS_ATTACH:
            _moduleHandle = hModule;
            break;
        case DLL_PROCESS_DETACH:
        case DLL_THREAD_ATTACH:
        case DLL_THREAD_DETACH:
            break;
    }

    return TRUE;
}

本地挂钩已成功安装，因为触发了 DLL KeyboardProc 函数，但是，从 C++ DLL 调用 C# 委托会终止应用程序。为什么？

注意事项：

1. DLL 和应用程序都是 32 位的
2. 当HookProc 被触发时_hookCallback_ 不为空（虽然我不确定它是否指向一个有效的内存地址）
3. KeyboardProc::handler 不应被垃圾回收，因为 KeyboardProc 实例的存在时间与 C# 应用程序一样长
4. 在 DLL 的 Install 函数中使用 _hookCallback 函数指针可以完美运行，但在 HookProc 函数中使用时会终止进程。
5. 没有任何异常，进程突然终止

还尝试过什么：

使HookCallback 成为UnmanagedFunctionPointer，以及使用Marshal.GetFunctionPointerForDelegate 并通过使用GCHandle.Alloc() 和GC.KeepAlive() 告诉垃圾收集器不要收集handler 属性：

public class KeyboardHook
{
    [UnmanagedFunctionPointer(CallingConvention.StdCall)]
    public delegate IntPtr HookCallback(int nCode, IntPtr wParam, IntPtr lParam);

    [DllImport("DLL32.dll", CallingConvention = CallingConvention.Cdecl)]
    protected static extern IntPtr Install(int idHook, IntPtr windowHandle, IntPtr delegatePointer);

    // ...
    
    protected readonly GCHandle garbageCollectorHandle;
    
    public KeyboardHook()
    {
        instance = IntPtr.Zero;
        handler = new HookCallback(Callback);
        garbageCollectorHandle = GCHandle.Alloc(handler); // Or GC.KeepAlive(handler)
    }
    
    ~KeyboardHook()
    {
        garbageCollectorHandle.Free();
    }
    
    public void Install(Process process)
    {
        IntPtr delegatePointer = Marshal.GetFunctionPointerForDelegate(handler);
        
        instance = Install(WH_KEYBOARD, process.MainWindowHandle, delegatePointer);
    }
    
    // ...
}

将handler直接使用到SetWindowsHookExA（C++）：

HHOOK Install(int idHook, HWND window, HOOKPROC hookCallback)
{
    auto processId = 0ul;
    auto threadId = GetWindowThreadProcessId(window, &processId);

    _hookCallback = hookCallback;

    return SetWindowsHookExA(idHook, hookCallback, _moduleHandle, threadId);
}

Answer 1

C# 代码调用 DLL 的 Install() 函数，并翻转了第二个和第三个参数。

改变这一行：

instance = Install(WH_KEYBOARD, handler, process.MainWindowHandle);

到这里：

instance = Install(WH_KEYBOARD, process.MainWindowHandle, handler);

更新：另外，您没有显示 DLL 的 Install() 函数的 C# 代码声明。但是在 C++ 代码中，Install() 函数没有指定调用约定，所以它（可能，取决于编译器配置）默认为 __cdecl（HookProc() 使用 __stdcall 调用约定）。因此，请确保 C# 代码在导入 Install() 函数时指定了正确的调用约定。 C# delegates 默认使用__stdcall。

Answer 2

进程因访问无效的内存地址而终止。

每个 Windows 进程都有不同的virtual memory 区域。换句话说，进程A 中的0x1234 内存地址与进程B 中的0x1234 内存地址不同，因为0x1234 是绑定到它的虚拟内存地址。相应的流程。

为了实现 C++ DLL 和 C# 应用程序（任何不同的进程）之间的通信，需要inter-process communication (IPC)。

对于那些对这个特定案例感兴趣的人，我最终创建了一个 invisible dummy window，作为通过来自 DLL 的 SendMessage 调用接收消息的中心点。