f(x,y) 的最小化，其中 x 和 y 是整数

Question

我想知道是否有人对最小化函数 f(x,y) 有任何建议，其中 x 和 y 是整数。我研究了很多最小化和优化技术，比如 BFGS 和 GSL 中的其他技术，以及数值食谱中的东西。到目前为止，我已经尝试实施几个不同的方案。第一个通过选择最大下降的方向 f(x+1,y),f(x-1,y),f(x,y+1),f(x,y-1) 来工作，并遵循该方向与线最小化。我也尝试过使用下坡单纯形（Nelder-Mead）方法。这两种方法都离最小值很远。它们似乎都适用于更简单的函数，比如找到抛物面的最小值，但我认为两者，尤其是前者，都是为 x 和 y 是实值（双精度值）的函数而设计的。另一个问题是我需要尽可能少地调用 f(x,y) 。它与外部硬件对话，每次通话需要几秒钟。对此的任何想法将不胜感激。

这是错误函数的示例。抱歉，我之前没有发过这个。这个函数需要几秒钟来评估。此外，我们从设备查询的信息如果低于我们的期望值，则不会添加到错误中，只有当它高于时

double Error(x,y)
{
  SetDeviceParams(x,y);
  double a = QueryParamA();
  double b = QueryParamB();
  double c = QueryParamC();
  double _fReturnable = 0;
  if(a>=A_desired)
  {
    _fReturnable+=(A_desired-a)*(A_desired-a);
  }
  if(b>=B_desired)
  {
    _fReturnable+=(B_desired-b)*(B_desired-b);
  }
  if(c>=C_desired)
  {
    _fReturnable+=(C_desired-c)*(C_desired-c);
  }
  return Math.sqrt(_fReturnable)
}

Answer 1

这里有很多很多的解决方案。事实上，有基于该主题的整本书和学科。我现在正在阅读一本优秀的：How to Solve It: Modern Heuristics。

没有一种解决方案是正确的 - 根据您对功能的具体了解，不同的解决方案具有不同的优势。甚至已经证明，没有一种启发式算法在所有优化任务中表现最好。

如果你知道你的函数是二次的，你可以使用Newton-Gauss一步找到最小值。遗传算法可以是一个很好的通用工具，或者您可以尝试模拟退火，这不太复杂。

Answer 2

你看过遗传算法吗？他们非常非常擅长寻找最小值和最大值，同时避免局部最小值/最大值。

Answer 3

你如何定义 f(x,y) ？最小化是一个难题，具体取决于函数的复杂性。

遗传算法可能是一个很好的候选者。

资源：

Genetic Algorithms in Search, Optimization, and Machine Learning

Implementing a Genetic Algorithms in C#

Simple C# GA

Answer 4

如果它是一个任意函数，那么就没有很好的方法。

假设我们有一个函数定义为：

f(x, y) = 0 for x==100, y==100
          100 otherwise

任何算法如何实际找到 (100, 100) 作为最小值？它可以是任何可能的值组合。

你对你正在测试的函数了解任何事情吗？

Answer 5

您通常在数学中寻找的是optimisation technique。一般来说，它们适用于实值函数，但许多可以适用于整数值函数。

特别是，我建议您查看non-linear programming 和gradient descent。两者似乎都非常适合您的应用程序。

如果您可以提供更多详细信息，我或许可以提出更具体的建议。

Answer 6

Jon Skeet 的回答是正确的。你确实需要关于 f 及其导数的信息，即使 f 处处是连续的。

理解您所问问题的困难的最简单方法（仅在整数值处最小化 f）就是考虑一个 f：R->R（f 是实数的实数值函数）的一个变量在单个整数之间进行较大的偏移。您可以轻松地构造这样一个函数，使得实线上的局部最小值与整数处的最小值之间没有相关性，并且与一阶导数没有关系。

对于任意函数，我认为除了蛮力之外别无他法。

Answer 7

让我们来看看你的数学问题。这一切都假设我理解 你的问题完全。如果我错了，请随时纠正我。

我们希望最小化以下内容：

\sqrt((a-a_desired)^2 + (b-b_desired)^2 + (c-c_desired)^2)

或其他表示法 ||Pos(x - x_desired)||_2

其中 x = (a,b,c) 和 Pos(y) = max(y, 0) 表示我们想要“积极的部分”（这说明 对于您的 if 语句）。最后，我们希望限制自己 x 为整数值的解。

与上面的海报不同，我认为遗传算法根本不是你想要的。
事实上，我认为解决方案要容易得多（假设我理解你的问题）。

1) 对上述函数运行任何优化例程。这会给你 解 x^* = (a^*, b^*,c^*)。由于此功能正在增加 对于变量，您可以希望的最佳整数解决方案是 (ceil(a^*),ceil(b^*),ceil(c^*)).

现在你说你的函数可能很难评估。存在工具 为此，这不是基于启发式的。以无衍生品的名义进行 优化。人们使用这些工具基于模拟优化目标（我有 甚至听说过一个目标函数是基于作物产量的情况！）

这些方法中的每一种都有不同的属性，但一般来说，它们都试图 不仅要尽量减少目标，还要尽量减少目标函数评估的次数。

Answer 8

抱歉，之前的格式太差了。这是一个错误函数的例子

double Error(x,y)
{
SetDeviceParams(x,y);
double a = QueryParamA();
double b = QueryParamB();
double c = QueryParamC();
double _fReturnable = 0;
if(a>=A_desired)
{
  _fReturnable+=(A_desired-a)*(A_desired-a);
}
if(b>=B_desired)
{
 _fReturnable+=(B_desired-b)*(B_desired-b);
}
if(c>=C_desired)
{
  _fReturnable+=(C_desired-c)*(C_desired-c);
}
return Math.sqrt(_fReturnable)
}