计算 LIBSVM 的 C 和 Gama

Question

我正在为 libsvm 计算 C 和 gama 的值。我的训练数据大小是 Mat(28539,96)；但是这个搜索需要很长时间。我的笔记本电脑从前两天开始一直处于开机状态，并且仍在搜索中。如何解决这个问题，任何人都有任何想法。帮助将不胜感激

Answer 1

如果你使用的是 grid.py - 你可以在里面找到参数

telnet_workers = []
ssh_workers = []
nr_local_worker = 1

您可以在其中配置外部帮助程序和本地线程的数量。尝试增加本地线程的数量，直到您的机器（接近）100% 加载。

Answer 2

网格搜索可能是一个很长的过程，尤其是在有大量数据的情况下。

你可以做的是：

1. 记录训练一个模型需要多少时间
2. 计算网格搜索将训练多少个模型
3. 大致估计执行网格搜索需要多长时间。

例如，如果您想每次以 2 的更高幂检查 C 从 2^0 到 2^15，您将对 C 值执行 16 次训练。如果您想尝试 1 到 5 之间的 gamma，您将为每个 gamma 执行 5 次训练。

网格搜索总共会进行 16*5 的训练。如果训练一个模型需要 10 秒，那么您将需要等待 800 秒才能完成整个网格搜索。

请注意，随着 C 变大，计算需要更多时间，因此您可以使用最大的 C 值来估计训练一个模型的时间。

一种推荐的方法是使用全范围开始，然后减小范围和步长，以保持每次网格搜索的合理训练次数。

例子：

• 在 C = 2^0 和 2^15 以及 gamma = 1 和 5 之间搜索 --> 280 次迭代
• 请注意，最低误差值在 C = 2^4 abd C = 2^5 和 gamma = 3 和 4 范围内
• 在 C = 2^3 和 2^6 以及 gamma = 3 和 4 之间搜索（使用 0.1 步）--> 40 次迭代

等你对结果满意后。