Erlang NIF 数字返回类型

Question

我正在尝试使用 NIF，但我对 Erlang 使用的数字类型感到困惑，因为我的精度有些奇怪。

这是一个例子：

erlang:band(18446744073709551614, 5) == 4

从一个看起来像这样的 NIF 内部：

long long l, r;

enif_get_long(env, argv[0], &l);
enif_get_long(env, argv[1], &r);

return enif_make_long(env, l & r);

结果我得到了1。

这与 C 层没有保持正确的数字“大小”有关吗？还是enif_(get|make)_long 不是处理这种大小的数字的正确方法？或者仅仅是 NIF 无法处理这么大的数字？

Answer 1

18446744073709551614 是 2^64 - 2，因此不能放入 long long，它很可能是一个 64 位有符号整数，范围为 -(2^63) 到 (2^63)-1。此外，enif_get_long 需要 long int，而不是 long long。您还应该得到从enif_get_long 返回的错误值，因为根据您未检查的docs 溢出。

要处理直到2^64 - 1 的数字（包括有问题的数字），您可以使用enif_get_uint64。

这段代码应该可以工作（未经测试）：

ErlNifUInt64 l, r;
enif_get_uint64(env, argv[0], &l);
enif_get_uint64(env, argv[1], &r);
return enif_make_uint64(env, l & r);

您还应该检查enif_get_* 的返回值，以确保您没有处理未初始化的数据。