浮点、实数和小数数据类型的回顾

Question

在我的场景中，我试图了解在数据库（Sql Server）表中具有 real 数据类型的列的影响。我的数据库中有一个具有 real 数据类型的列。 数据是静态的，它始终是 0.0、0.1、0.2.. 到 1.0 范围内的值之一。

用例： 我必须总结列中的值并在一些包括财务数据的算术计算中使用总和值。

担心？ 当我对列中的值求和时，它会给我更多小数位的结果。

测试：

1. 我想对列值求和，并将其用于乘除计算。

2. 我想对具有十进制和浮点数据类型的列中的同一组值重复 #1。

过程：我创建了三个不同的表，其中包含一个列和一组相同的值，但数据类型不同，一个是小数、浮点数和实数。并对它们中的每一个进行算术计算。

     CREATE TABLE #tReal(d real);
     INSERT INTO #tReal
     SELECT 0.1 UNION ALL 
     SELECT 1 UNION ALL 
     SELECT 1 UNION ALL 
     SELECT 0.9 UNION ALL 
     SELECT 1 UNION ALL 
     SELECT 0.9 UNION ALL 
     SELECT 1;
     select SUM(d) from #tReal

预期结果：5.9

实际结果： 5.8999999538064

而且，如果我对总和执行四舍五入运算，结果符合预期

declare @sumofd real
select @sumofd = SUM(d) from #tReal
select round(@sumofd , 1)

结果：5.9

另外，如果我将数据类型从 real 更新为 float

CREATE TABLE #tfloat(d float);
INSERT INTO #tfloat
SELECT 0.1 UNION ALL 
SELECT 1 UNION ALL 
SELECT 1 UNION ALL 
SELECT 0.9 UNION ALL 
SELECT 1 UNION ALL 
SELECT 0.9 UNION ALL 
SELECT 1;
select SUM(d) from #tfloat

预期结果：5.9

实际结果： 5.9

而且，如果我将数据类型从 real 更新为 decimal

，情况也是如此

CREATE TABLE #tDecimal(d DECIMAL(3,2));
INSERT INTO #tDecimal
SELECT 0.1 UNION ALL 
SELECT 1 UNION ALL 
SELECT 1 UNION ALL 
SELECT 0.9 UNION ALL 
SELECT 1 UNION ALL 
SELECT 0.9 UNION ALL 
SELECT 1;

select SUM(d) from #tDecimal

预期结果：5.94

实际结果： 5.94

而且，如果我对总和执行一些基本的算术运算，而不进行四舍五入，比如

declare @sumofdReal real
declare @sumofdFloat float
declare @sumofdDecimal decimal(3,2)

select @sumofdReal = SUM(d) from #tReal
select @sumofdFloat = SUM(d) from #tfloat
select @sumofdDecimal = SUM(d) from #tDecimal

乘法：

select @sumofdReal * 2
Result: 11.8

select @sumofdFloat * 2
Result: 11.8

select @sumofdDecimal * 2
Result: 11.88

部门：

select @sumofdReal / 2
Result: 2.95

select @sumofdFloat / 2
Result: 2.95

select @sumofdDecimal / 2
Result: 2.97000

删除表：

drop table #tReal
drop table #tfloat
drop table #tDecimal

以下是我的问题

1. 在我的场景中，将数据类型设为真实会产生任何影响吗？
2. 如果#1 是肯定的，会有什么样的影响？我是否必须将数据类型更改为浮点数或小数？为什么？
3. 如果 #1 为否，为什么？请解释一下？

float 和 real 类型是否可以产生精确的结果，除此之外的任何舍入错误都会出现？

Answer 1

SQL Server 中的real 是float(24) 的同义词，它占用4 个字节和最多7 位的精度。

float 本身与float(53) 相同，double 也相同，占用 8 个字节，精度高达 15 位。

在我的场景中，将数据类型设为 real 会产生什么影响？

可能。 decimal、float 和 realhave different characteristics and are not fully interchangeable。如果要保持精确的十进制表示，请使用具有适当比例和精度的 decimal 数据类型。如果您的数字代表不精确的数据（例如温度、高度、时间或其他“自然”测量值，如果不精确就无法测量）并且想要更快的数学运算，请使用float（或real，如果您不需要；超过 7 位的精度。

当我对列中的值求和时，它会给我更多小数位的结果。

当您添加浮点数时，SQL 会确定结果的大小并将使用适当的数据类型。当您添加两个reals 时，结果可能具有超过7 位的精度，因此它可能使用float 作为结果数据类型。

我是否必须将数据类型更改为浮点数或小数？为什么？

如果您的精度可能超过 7 位，不需要从十进制的角度来看绝对精度，并且希望使用浮点类型来加快计算速度，请使用 float。

如果您想要一个固定的比例和精度，并希望最大限度地减少浮点数所涉及的不精确性，请使用decimal。

Answer 2

使用浮点值总是会产生影响，因为它们没有被精确地表示，并且总是会出现一些舍入错误。在将值与常量进行比较时，您必须非常小心，例如if (a == 0.0) 因为如果 'a' 是数学运算的结果，这并不总是有效。 Float 和 Decimal 只是为您提供不同的范围和精度。

Answer 3

如果您在财务计算中使用这些值，那么您应该始终（几乎）使用小数类型，否则您会在某些时候遇到浮点舍入问题。当你开始失去便士时，人们会非常伤心。

您可能想在此处阅读更多关于浮点运算的内容：

http://floating-point-gui.de/

十进制类型不受这些限制，应该是精确的。

---

例如，您最终会遇到尝试将数字四舍五入为 2 DP 的情况，例如0.695，您希望四舍五入到 0.70。

DECLARE @x REAL = 0.695

SELECT ROUND(@x, 2)

-- outputs 0.69

DECLARE @y DECIMAL(6,4) = 0.695

SELECT ROUND(@y, 2)

-- outputs 0.7000

这是因为您无法将 0.695 准确地表示为浮点数，而实际上它在保存时略小于 0.695。