VBA：Variant/Double 和 Double 之间的区别

Question

我使用的是 Excel 2013。在以下代码片段中，VBA 为 damage 计算 40：

Dim attack As Variant, defense As Variant, damage As Long
attack = 152 * 0.784637
defense = 133 * 0.784637
damage = Int(0.5 * attack / defense * 70)

如果数据类型更改为Double，VBA 为damage 计算39：

Dim attack As Double, defense As Double, damage As Long
attack = 152 * 0.784637
defense = 133 * 0.784637
damage = Int(0.5 * attack / defense * 70)

在调试器中，Variant/Double 和 Double 值显示相同。但是，Variant/Double 似乎更精确。

谁能解释这种行为？

Answer 1

tldr;如果您需要比Double 更高的精度，请不要使用Double。

答案在于将结果从Variant 强制转换为Double 的时间。 Double 是一个 IEEE 754 浮点数，根据 IEEE 规范，可逆性保证为 15 个有效数字。您的价值与该限制相冲突：

0.5 * (152 * .784637) / (133 * .784637) * 70 = 39.99999999999997 (16 sig. digits)

当强制转换为双精度时，VBA 会将超过 15 位有效数字的任何内容四舍五入：

Debug.Print CDbl("39.99999999999997") '<--Prints 40

事实上，您可以在 VBE 中观察这种行为。输入或复制以下代码：

Dim x As Double
x = 39.99999999999997

VBE 通过将字面值转换为Double 来“自动更正”字面值，这会为您提供：

Dim x As Double
x = 40#

好的，所以现在您可能会问这与这两个表达式之间的差异有什么关系。 VBA 使用它可以使用的“最高阶”变量类型来评估数学表达式。

在您的第二个Sub 中，您在右侧将所有变量声明为Double，该操作使用Double 的高位进行评估，然后是结果在作为Int() 的参数传递之前隐式转换为Variant。

在您的第一个 Sub 中，您有 Variant 声明，在传递给 Int 之前不会执行到 Variant 的隐式转换 - 数学表达式中的最高阶是 Variant，所以 在将结果传递给 Int() 之前不执行任何隐式转换 - Variant 仍然包含原始 IEEE 754 浮点数。

根据documentation 的Int：

Int 和 Fix 都删除了 number 的小数部分并返回 结果整数值。

不进行舍入。顶部代码调用Int(39.99999999999997)。底部代码调用Int(40)。 “答案”取决于您想要四舍五入的浮点错误级别。如果 15 有效，那么 40 是“正确”答案。如果您想将任何不超过 16 位或更多有效数字的内容设置为底数，那么 39 是“正确”的答案。 解决方案 是使用Round 并明确指定您正在寻找的精度级别。例如，如果您关心完整的 15 位数字：

Int(Round((0.5 * attack / defense * 70), 15))

请记住，您在输入中任何地方使用的最高精度是 6 位，因此这将是一个合乎逻辑的舍入截止：

Int(Round((0.5 * attack / defense * 70), 6))

Answer 2

如果您在计算伤害的两条线上都去掉 Int() 函数，那么它们最终会是相同的。您不应该使用 Int，因为这会产生错误的行为，您应该在转换为 Long 变量时使用 CLng，或者如果损坏是 Int，您应该使用 CInt。

Int 和 CInt 的行为不同。 Int 总是向下舍入到下一个较小的整数 - 而 CInt 将使用 Banker's Rounding 向上或向下舍入。对于尾数为 0.5 的数字，您通常会看到这种行为。

至于变体和双重差异，如果您对第一个代码块的 MsgBox 执行 TypeName，您会发现尽管已被声明为变体，但赋值后的攻击和防御都已转换为双重.