32bit 逆向工程加密功能失败 64bit

Question

signed int _rotr( int a1, int a2 )
{
    return (a1 << a2 % 0x20u) | ((unsigned int)a1 >> (char)(32 - a2 % 0x20u));
}
int _encrypt_password( int a1, int a2, signed int a3 )
{
    signed int  v10; // [sp+10h] [bp-8h]@3
    int         result; // eax@1
    int         v4; // ebx@3
    int         v5; // edi@3
    int         v6; // esi@3
    int         v7; // eax@4
    int         v8; // [sp+14h] [bp-4h]@2
    int         v9; // [sp+Ch] [bp-Ch]@2

    result = 8 * a3 / 8;
    a3 = 8 * a3 / 8;
    if ( result > 0 )
    {
        result = a2;
        v8 = 0;
        v9 = a2;
        while ( a3 / 8 > v8 )
        {
            v4 = *(_DWORD *)v9 + *(_DWORD *)(a1 + 16);
            v6 = *(_DWORD *)(v9 + 4) + *(_DWORD *)(a1 + 20);
            v10 = 1;
            v5 = a1 + 24;
            do
            {
                v7 = *(_DWORD *)v5 + _rotr(v6 ^ v4, v6);
                v4 = v7;
                v6 = *(_DWORD *)(v5 + 4) + _rotr(v7 ^ v6, v7);
                ++v10;
                v5 += 8;
            }
            while ( v10 <= 12 );
            result = v9;
            *(_DWORD *)v9 = v4;
            *(_DWORD *)(v9 + 4) = v6;
            ++v8;
            v9 += 8;
        }
    }
    return result;
}

以上是一组反向工程函数，它提供字符串（密码）的加密，用于向游戏服务器验证游戏客户端。原始加密不再可用，为此目的对其进行了反向工程。

代码在 32 位中完美运行，但是，在为 64 位系统编译时，我遇到了一些问题。该代码像在 32 位中一样成功构建，但是在执行该函数时，它会在遇到第一个 v4 分配行时出现段错误 (EXC_BAD_ACCESS)：

v4 = *(_DWORD *)v9 + *(_DWORD *)(a1 + 16);

我试图了解该功能并弄清楚它实际提供的加密类型，但是我在这方面失败了。起初我使用 RC5 运行，但这导致了大约 2 天的数学运算，最终证明这对我的密码学技能非常有价值，但对手头的问题却是徒劳的。

我想知道关于这段代码的一件事或两件事：

首先也是最简单的，有没有人认出这是使用的算法或加密方法？它甚至使用标准方法吗？在我看来，它在某种程度上看起来像 RC5/ROT13/DES/AES，但我不知道。

其次，是否有任何迹象表明为什么这无法在 64 位中工作？

** 抱歉，_DWORD 是无符号长整数。

Answer 1

a1 和 a2 不是整数，它们是指针，同样，它们没有符号，它们是无符号的。在 64 位系统上，这些指针可能指向高于 max(int32) 的值，您可以尝试将它们转换为 64 位大小的值，例如 uint64_t。

Answer 2

尝试用int32_t 替换所有出现的int 和_DWORD（你会想要#include <stdint.h>。你说_DWORD 被定义为unsigned long，这在许多32 位机器上将是一个32 位数量，但在 64 位机器上通常是 64。

或者，如果函数实际上是使用地址作为其参数调用的，看起来可能是这样，您可能想尝试在任何地方使用int64_t。您是否有一个如何调用函数的示例，以及 64 位系统上的一些示例输入？