【问题标题】:Multiplying float with 100 sometimes gives a slightly unexpected result in Objective C在 Objective C 中,将浮点数乘以 100 有时会产生一个稍微出乎意料的结果
【发布时间】:2020-12-10 08:57:38
【问题描述】:

所以我试图将 UISlider 的值转换为整数,这样我就可以将它用作索引以从 NSArray 中获取值,但将滑块值相乘有时会产生意想不到的结果..

int index = self.moveHistoryLabelSlider.value * 100;

前几个结果很好,但当它达到 0.15 时,它开始给出不同的结果。这是slider.value和slider.value*100的NSLog:

slider value = 0.150000 slider * 100 = 14.999999

它也发生在其他浮点数中,例如 0.19 * 100 给出 19.999998。我该如何解决这个问题?

【问题讨论】:

标签: objective-c xcode multiplication


【解决方案1】:

这个问题是Floating Point Numbers (https://floating-point-gui.de/basic/) 的本质。您可以使用两种简单的方法来最小化舍入误差:

  1. 以所需的精度计算整数而不是浮点数:
// Float calculation
float value = 0.15; // 0.150000006
float multiplier = 100; // 100
NSLog(@"%f", value * multiplier); // 15.000001

// Convert float to integers and back
int precision = 100;
int intValue = value * precision; // 15
float result = (intValue * (int)multiplier) / (float)precision;
NSLog(@"%f", result); // 15.000000

  1. 使用NSDecimalNumber进行计算
NSDecimalNumber* decimalValue = [[NSDecimalNumber alloc] initWithDecimal:@(value).decimalValue]; // 15 x 10^-2
NSDecimalNumber* decimalMultiplier = [[NSDecimalNumber alloc] initWithDecimal: @(multiplier).decimalValue]; // 10 x 10^2
NSDecimalNumber* decimalResult = [decimalValue decimalNumberByMultiplyingBy:decimalMultiplier];
NSLog(@"%f", decimalResult.floatValue); // 15.000000

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2023-03-05
    • 1970-01-01
    • 2014-12-01
    • 2020-09-03
    • 1970-01-01
    • 2020-07-18
    • 1970-01-01
    • 2017-12-16
    相关资源
    最近更新 更多