【发布时间】:2020-09-26 20:39:55
【问题描述】:
我正在编写一个程序,使用 X 有效数字通过高斯方法求解线性方程。
我的程序使用 sigfig.py 的 round 函数每次计算都舍入到 3 个有效数字
并非每个数字都有 3 个有效数字(例如“1”),所以当我将“1”四舍五入到 3 个有效数字时,我会收到下一个警告:
warning: %d significant figures requested from number with only %d significant figures
有没有办法避免这个警告或将数字从 1 转换为 1.00(3 个有效数字)?这就是我使用该功能的方式。
round(1, sigfigs=3)
'1' 和 '3' 是我从用户输入中获得的值,因此我无法使用 format 修复 1,因为它应该适用于每个数字,例如 0.000000365。
【问题讨论】:
标签: python math format rounding