SQL 十进制类型 - 精度和比例差异

Question

为了回答这里的另一个问题，我创建了以下数据结构和行：

create table [resource] (Name varchar(16),date datetime, project varchar(16),hours int)
INSERT INTO resource
values ('Andy Sandy', '2013-03-02', 'Enhancements',40)
INSERT INTO resource
values('Fred Jones', '2013-10-02', 'Enhancements',40)

我已经执行了以下查询：

select 
case when sum(hours) > 0 Then
    CAST(SUM(hours) as DECIMAL(5,2))/40
else 0 end as [hours],
[DATE]
from resource group by date

结果如下所示：

Hours           Date
1.000000    2013-03-02 00:00:00.000
1.750000    2013-10-02 00:00:00.000

当我将小时数转换为小数时，我指定了 5 的精度和 2 的刻度。我不明白为什么这个数字是这样的。如果我没有指定精度和比例，那么结果是一样的。这是为什么呢？

Answer 1

你正在做numeric(5,2) / 40。

来自Precision, Scale, and Length

+-----------+------------------------------------+---------------------+
| Operation |          Result precision          |   Result scale *    |
+-----------+------------------------------------+---------------------+
| e1 / e2   | p1 - s1 + s2 + max(6, s1 + p2 + 1) | max(6, s1 + p2 + 1) |
+-----------+------------------------------------+---------------------+

将 40 视为 numeric(2,0)，因为这是保留精度和小数位数的最小十进制表示形式。

所以

p1=5
s1=2,
p2=2
s2=0

然后将其插入 BOL 的公式中

Precision: 5 - 2 + 0 + max(6, 2 + 2 + 1) = 9
Scale: max(6, 2 + 2 + 1)                 = 6

所以结果是numeric(9,6)。

你也可以从

看到这个

;WITH cte(thing) AS
(
 SELECT CAST(1 as DECIMAL(5,2))/40
)
SELECT thing, 
       sql_variant_property(thing,'basetype') AS basetype,
       sql_variant_property(thing,'precision') AS precision, 
       sql_variant_property(thing,'scale') AS scale, 
       sql_variant_property(thing,'maxlength') AS maxlength
FROM cte

返回

+----------+----------+-----------+-------+-----------+
|  thing   | basetype | precision | scale | maxlength |
+----------+----------+-----------+-------+-----------+
| 0.025000 | decimal  |         9 |     6 |         5 |
+----------+----------+-----------+-------+-----------+

（注意：decimal 和 numeric 是同义词）

Answer 2

多么奇怪。如果你运行sp_describe_first_result_set

sp_describe_first_result_set N'
select 
case when sum(hours) > 0 Then
    CAST(SUM(hours) as DECIMAL(5,2))/40
else 0 end as [hours],
[DATE]
from resource group by date'

您看到您返回的小时数列被转换为十进制(9,6)。

如果您将原始转换更改为 DECIMAL(10,6)，它将重新转换为 (14,10)。所以你认为它只是增加了 4 个级别的小数精度。不完全是！

将您的分频器从 40.0 更改为 400.0 - 现在它转换为 (15,11) - 它还根据分频器的精度增加了额外的精度级别。

改为 40.0000（3 个额外的零） - 现在是 (20,15)。因此，有一个函数可以根据原始值和除数来确定精度。

小数点右边每增加一个精度级别，就会在您的原始演员表中增加 (2,1)。 左边的每个精度级别都会为您的原始演员添加 (1,1)。

要将小时列返回为小数（5,2），您只需要这样做

select 
case when sum(hours) > 0 Then
    CAST(SUM(hours) /40.0 as decimal(5,2))
else 0 end as [hours],
[DATE]
from resource group by date