Mallet Topic Modeling API - 如何确定优化所需的间隔数或最佳间隔数？答案

【问题标题】：Mallet Topic Modelling API - How to decide number of intervals needed or best for optimization?Mallet Topic Modeling API - 如何确定优化所需的间隔数或最佳间隔数？
【发布时间】：2017-11-15 14:35:16
【问题描述】：

对不起，我是 NLP 领域的初学者，正如标题所说，Mallet API 的最佳优化间隔是多少？我还想知道它是否与迭代/主题/语料库等的数量相关或相关。

【问题讨论】：

这是用于训练主题模型中的--optimize-interval 选项吗？
@DavidMimno 是的，对于 API，代码是 .setOptimizeInterval(num);

标签： java nlp intervals topic-modeling mallet

【解决方案1】：

优化间隔是超参数更新之间的迭代次数。 20 到 50 之间的值似乎效果很好，但我没有做过任何系统测试。需要注意的一种可能的故障模式是优化轮次过多可能导致不稳定，alpha 超参数会变为零。

【讨论】：

【解决方案2】：

这是一篇有趣的博文，Christof Schöch 做了一些系统测试

Topic Modeling with MALLET: Hyperparameter Optimization

TL;DR:

这完全取决于项目的目标。但重要的是我们意识到巨大的影响 Mallet 不显眼的参数超参数优化可以对生成的模型进行。

编辑：作者没有修复随机种子。所以结果可以用 MALLET 的随机初始化来解释。

【讨论】：