【问题标题】:Python float() giving incorrect values [duplicate]Python float()给出不正确的值[重复]
【发布时间】:2016-08-22 02:03:52
【问题描述】:

当我在 Python 控制台中输入 float(1)/(2^7) 时,它会输出 0.2。但实际上是 0.0078125。

谁能告诉我我做错了什么?

【问题讨论】:

  • ^ 是 XOR 运算符。如果你想提高 2 的 7 次方,你必须使用2 ** 7
  • 在 Python REPL 中尝试 help('^')help('**')

标签: python python-2.7 casting floating-point precision


【解决方案1】:

您可能希望使用** 运算符而不是^** 是 python 中的幂运算符,^ 是二进制 XOR 运算符。

float(1)/(2**7) 产生正确的0.0078125

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2015-03-17
    • 1970-01-01
    • 2021-10-15
    • 2013-10-05
    • 1970-01-01
    • 2022-01-19
    • 2018-07-19
    • 1970-01-01
    相关资源
    最近更新 更多