【发布时间】:2012-11-21 19:00:07
【问题描述】:
让向量v 接近于零,如{7.000e-07, 5.000e-06, 4.000e-07}。在标准化之前乘以 1024 是个好主意吗?似乎这样的接近值在 PC 上运行良好,其中 double 内部为 80 位,而在 ARM FPU 上则不好。
【问题讨论】:
-
“标准化”是一个相当宽泛的概念——您可能需要提供更多背景信息(即您的问题领域是什么——音频、视频或其他信号处理、有限元建模……? ) 以获得有用的答案。您是否正在“标准化”为
+/- 1e-4或+/- 1或+/- 1e6?
标签: c++ floating-point floating-accuracy