简单的 SQL 数学运算给出不正确的结果答案

【问题标题】：Simple SQL math operation gives incorrect results简单的 SQL 数学运算给出不正确的结果
【发布时间】：2012-03-30 22:35:21
【问题描述】：

我遇到了一个问题，qty * price 的简单 SQL 数学运算返回了不正确的值。

这是 SQL server 2005。2000 SQL server 的兼容性设置为 80。

任何帮助理解为什么我会遇到下面显示的问题

例如：
交易表：

id 价格数量 1 2.77 20.00 1 2.77 25.00 1 2.77 10.00 2 0.10 50.00 2 0.10 80.00 3 0.10 50.00 3 0.10 60.00

SQL

Select id, price, qty, (qty * price) from transact

真正的问题是这个，这是我的错:(

Select id, CAST(price AS DECIMAL(5,2)), qty, (qty * price) from transact

返回以下内容：

id 价格数量总计 1 2.77 20.00 55.400000 正确 1 2.77 25.00 69.250000 正确 1 2.77 10.00 27.700000 正确 2 0.10 50.00 4.800000 应该是 5.0000 2 0.10 80.00 7.680000 应该是 8.0000 2 0.10 50.00 5.050000 应该是 5.0000 2 0.10 60.00 6.060000 应该是 6.0000 3 39.00 1.00 39.000000 正确 3 39.00 2.00 78.000000 正确 3 39.00 3.00 117.000000 正确

【问题讨论】：

我和詹姆斯一起做这个。编写表格脚本并发布 create table 语句。我建议 Price 应该是钱，根据你卖的东西，qty 很可能应该是一个整数。

标签： sql sql-server tsql sql-server-2005

【解决方案1】：

您的价格在某处被四舍五入。您正在运行的选择未显示实际价格。

select round(0.096, 2) price, 0.096 * 50.00 total

结果：

price    total
0.10     4.80000

【讨论】：

@all_posts 你说的都对。在发布问题之前，我真的会尝试更好地分析。我正处于时间紧缩状态，它总是会让你绊倒的最小的事情。在清理我的表和 sql 以便能够发布时，价格列被强制转换（价格为小数（5,2）），我看了看这不在我的价格 * 数量的数学中。感谢您的帖子，很抱歉提出我应该首先提出的问题。很久以前有人告诉我，当你试图责怪编译器时，把矛头指向你自己......