【发布时间】:2025-11-21 09:35:01
【问题描述】:
所以我决定尝试通过编写一些 python 脚本来解决我的物理作业来为我解决问题。我遇到的一个问题是重要的数字似乎并不总是正确地出现。例如,这可以正确处理有效数字:
from decimal import Decimal
>>> Decimal('1.0') + Decimal('2.0')
Decimal("3.0")
但这不是:
>>> Decimal('1.00') / Decimal('3.00')
Decimal("0.3333333333333333333333333333")
所以两个问题:
- 我认为这不是预期的有效数字数量是正确的,还是我需要复习有效数字数学?
- 有什么方法可以做到这一点而无需手动设置小数精度?当然,我确信我可以使用 numpy 来执行此操作,但出于好奇,我只想知道是否有办法使用 decimal 模块执行此操作。
【问题讨论】:
标签: python floating-point decimal physics significance