Sql Server Decimal(30,10) 丢失最后 2 位小数

Question

在 Sql Server 05 中除以 2 个小数 (30,10) 时，最后 2 个小数似乎丢失了（甚至没有四舍五入，只是被截断）。

例如：

Declare @x decimal(30,10)
Declare @y decimal(30,10)
Declare @z decimal(30,10)

select @x = 2.1277164747 
select @y = 4.8553794574

Select @z = @y/@x   
select @z 

结果：2.2819673100

但是如果将 2 个被除的数字转换为似乎可以工作的浮点数：

....
Select @z = cast(@y as float)/cast(@x as float)
select @z 

结果：2.2819673181

为什么 Sql 会这样做？在 Sql 中，什么是在不损失精度的情况下划分小数的正确方法。

Answer 1

SQL Server 中允许的最大精度为 38。您使用的是 Decimal(30,10)。最大值为 99,999,999,999,999,999,999.9999999999 如果将此数字除以 0.000000001，最终将得到更大的数字，因此生成的数据类型必须能够容纳它。这会导致您失去一些精度。

将您的原始数据类型更改为 Decimal(20,10) 并且不会发生此问题。

有关数据类型的完整规则（以及它们如何受数学运算影响）：

Full rules here

Answer 2

简而言之，使用强制转换来保证您的结果。当您将 @x 和 @y 分配给文字值时，它们可能会采用这些文字的精度。这有助于解释为什么按这些值进行划分没有达到您的预期。