【问题标题】:Where does this precision loss happen and how to prevent it?这种精度损失发生在哪里以及如何防止它?
【发布时间】:2012-02-17 19:47:23
【问题描述】:

我正在 Qt 中编写一个简单的工具,它从两个 GPX (XML) 文件中读取数据并以某种方式组合它们。我使用包含具有 6 位小数精度的航点的跟踪日志测试了我的工具。当我从 GPX 文件中读取它们时,精度会降低到 4 个十进制数字(正确舍入)。所以例如这个原始标签:

<trkpt lat="61.510656" lon="23.777735">

当我的工具再次写入时变成了这个:

<trkpt lat="61.5107" lon="23.7777">

调试输出显示此行发生精度损失:

double lat = in.attributes().value("", "lat").toString().toDouble();

但我不明白为什么。 in 是从文本文件句柄读取的 QXmlStreamReader

【问题讨论】:

    标签: c++ qt xml-parsing precision gpx


    【解决方案1】:

    可能是当您将值写入回 XML 时。请在您的问题中发布该代码。

    如果我在看到代码之前猜到了,您正在使用 QString::number 将双精度转换回字符串。转换中的默认精度为 6,这与您所看到的相对应。您可以提高精度以获取所有小数。

    【讨论】:

    • 我把这个:qDebug()
    • 试试:qDebug() &lt;&lt; QString::number(lat, 'f', 10)
    • 我打赌一切最终都会使用QString QString::number(double n, char format = 'g', int precision = 6 )
    • 这就是票! QString::number 确实是罪魁祸首。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2012-03-07
    • 1970-01-01
    • 2016-12-19
    • 2010-09-06
    • 2021-05-01
    • 1970-01-01
    相关资源
    最近更新 更多