【发布时间】:2016-11-17 23:03:19
【问题描述】:
为什么我在这里得到错误的精度?我在浮点数之后询问了 3 个十进制数字。
>>> from decimal import Decimal
>>> from decimal import getcontext
>>> getcontext().prec = 3
>>> Decimal(1.111) + Decimal(2.222)
Decimal('3.33') # Why not 3.333?
第二个问题,对于 django DecimalField,我这样定义我的字段:
value = models.DecimalField(max_digits=10, decimal_places=3)
它是否给出与设置相同的结果
getcontext().prec = 3
十进制?
【问题讨论】:
标签: python django floating-point decimal rounding