使用 Fasttext 进行自动调谐嵌入

Question

我已经使用 Fasttext - train.unsuperwised 训练了词嵌入。 有没有办法为此自动调整超参数？文档为监督训练提供了自动调整，但我不确定如何对嵌入进行监督训练。

Answer 1

如果您有目标标签来预测每个输入文本，您可以使用 supervised 模式进行嵌入。但随后嵌入将针对该分类目的进行优化，而不是人们通常期望从无监督训练中获得更普遍的有用性。

因为这种元参数优化（“自动调整”）仅在针对具有明确正确/错误答案的目标测试结果时才有意义，因此它可能仅适用于监督模式，如文档所示。

如果您将（正常的、无监督的）词向量用于您自己的其他下游任务，并且您可以为该任务创建可重复的评估，您应该编写自己的代码来执行最佳搜索元参数。