小于或等于 `int.MaxValue` 的最大“浮点数”

Question

我正在尝试编写一个转换函数，它接受一个float 并返回一个int，它基本上是进行饱和转换。如果它大于int.MaxValue，则应返回int.MaxValue，同样适用于int.MinValue。

我宁愿不捕获异常作为我正常流程控制的一部分，而是明确检查边界，除非我不确定上限是多少，因为可以存储在 int 中的最大浮点数小于 @ 987654328@ 作为浮点数的精度低于整数值。

基本上我在寻找...：

float largestFloatThatCanBeStoredInAnInt = ...

Answer 1

我们来做一个实验：

  float best = 0f;

  for (int i = 2147483000; ; ++i)
  {
    float f = (float)i;

    try
    {
      checked
      {
        int v = (int)f;
      }

      best = f;
    }
    catch (OverflowException)
    {
      string report = string.Join(Environment.NewLine, 
        $"   max float = {best:g10}",
        $"min overflow = {f:g10}",
        $"     max int = {i - 1}");

      Console.Write(report);

      break;
    }
  }

结果是

   max float = 2147483520
min overflow = 2147483650
     max int = 2147483583

因此我们可以得出结论，可以转换为int 的最大float 是2147483520。可以转换为float 并返回到int 的最大int 是2147483583； 如果我们尝试将2147483583 + 1 = 2147483584 转换为2147483650f，如果我们尝试将其转换回int，则会抛出异常。

int overflow = 2147483583 + 1;
int back = checked((int)(float) overflow); // <- throws exception

甚至

float f_1 = 2147483583f;        // f_1 == 2147483520f (rounding)
  int i_1 = checked((int) f_1); // OK

float f_2 = 2147483584f;        // f_2 == 2147483650f (rounding) > int.MaxValue
  int i_2 = checked((int) f_2); // throws exception

最后，float 到 int 的转换（没有例外；int.MaxValue 或 int.MinValue 如果float 超出范围）：

  // float: round errors (mantissa has 23 bits only: 23 < 32) 
  public static int ClampToInt(this float x) =>
      x >  2147483520f ? int.MaxValue 
    : x < -2147483650f ? int.MinValue
    : (int) x;

  // double: no round errors (mantissa has 52 bits: 52 > 32)
  public static int ClampToInt(this double x) =>
      x > int.MaxValue ? int.MaxValue 
    : x < int.MinValue ? int.MinValue
    : (int) x;

Answer 2

我建议您将其硬编码为正确的数据类型：

var largestFloatThatCanBeStoredInAnInt = 2147483000f;

2,147,483,000 是您可以存储在小于 int.MaxValue 的浮点数中的最大值

Answer 3

这种方法可以解决这个问题：

public static int ClampToInt(this float x)
{
    const float maxFloat = int.MaxValue;
    const float minFloat = int.MinValue;

    return x >= maxFloat ? int.MaxValue : x <= minFloat ? int.MinValue : (int) x;
}

>= 的使用在这里很重要。只使用>，你会错过(float) int.MaxValue，然后当你进行普通转换时，你会发现(int) (float) int.MaxValue == int.MinValue，结果会使这个函数返回错误的值。

Answer 4

这样不行吗？

float largestFloatThatCanBeStoredInAnInt = (float)int.MaxValue - 1;

这个表达式是真的：

(float)int.MaxValue - 1 < int.MaxValue