大于 2^53 的整数的最大精度错误存储为双精度 - 如何在 BigQuery 中存储 UINT64

Question

存储在 double 中的大于 2^53 的正整数的最大精度误差是多少？ 换句话说，对于从 2^53+1 到 max(double) 的所有正整数，实际整数与双精度值之间的最大精度差是多少。

关于我为什么要问的一点背景： 我正在从 pubsub 读取 SNMP 计数器并将它们写入 BigQuery。计数器为 UINT64，但 BigQuery 的整数数据类型为 INT64。所以我目前在我的 BQ 模式中使用 FLOAT。如果计数器偏离数百个值，这对我的用例来说不是问题。除非在 BQ 方面有另一种选择（不涉及使用字符串！）

Answer 1

2018 年更新：BigQuery 现在具有 NUMERIC 类型。

• https://cloud.google.com/bigquery/docs/reference/standard-sql/data-types#numeric-type

---

根据我目前收集到的信息：

• 您应该能够将 UINT64 存储为 INT64 而不会损失任何精度。
• 64 位值的算术运算不取决于它们被解释为有符号还是无符号（除法和模数除外）。
• 比较：您可以使用 (A - B > 0) 代替 (A > B)。

从历史上看，Java 还没有处理 UINT64，并且有记录的方法可以解决这个问题：https://www.nayuki.io/page/unsigned-int-considered-harmful-for-java

如果知道这些变通办法无法处理哪些情况会很有趣！

在 BigQuery 中：

#legacySQL
SELECT 9223372036854775818
-9223372036854775798    

#legacySQL
SELECT 9223372036854775807
9223372036854775807

#legacySQL
SELECT 9223372036854775818 - 9223372036854775807
11

Answer 2

浮点数之间的差距随着数字变大而增加。

关于双精度浮点数的整个范围：

• 最大的有限值为(2 − 2⁻⁵²)×2¹⁰²³（约1.8×10³⁰⁸）。
• 第二大值为(2 − 2⁻⁵¹)×2¹⁰²³。
• 他们相差2⁹⁷¹（约2.0×10²⁹²）。
• 因此通过四舍五入，最大误差是步长的一半，所以您的问题的答案是 2⁹⁷⁰（大约 1.0×10²⁹² )。

关于最大2⁶⁴的双精度浮点数范围：

• 2⁶⁴ 可以在 DP FP 中精确表示。
• 前一个（较小的）数字是 18446744073709549568。
• 他们的差是 2048。
• 因此，将 uint64 转换为 float64 时，最大舍入误差为 ±1024。