如何访问 FastText 分类器管道？

【问题标题】：How to access to FastText classifier pipeline?如何访问 FastText 分类器管道？
【发布时间】：2021-06-06 09:55:59
【问题描述】：

我们知道Facebook 的FastText 是一个很棒的开源、免费、轻量级的库，可用于文本分类。但是这里的一个问题是管道似乎是端到端的黑盒。是的，我们可以从这些options 更改超参数来设置训练配置。但我无法找到一种方法来访问它在内部生成的嵌入向量。

实际上，我想对向量嵌入进行一些操作——比如除了这些 word2vec 表示之外引入tf-idf 加权，我想做的另一件事是使用需要数字表示的SMOTE 进行过采样。由于这些原因，我需要在我似乎无法访问的整个管道之间引入我的自定义代码。如何在此管道中引入自定义步骤？

【问题讨论】：

【解决方案1】：

完整的源代码可用：

因此，您可以进行任何可以想象的更改或扩展 - 如果您愿意阅读和修改其 C++ 源代码。没有什么是隐藏或不可访问的。

请注意，FastText 及其supervised 分类模式主要是训练浅层神经网络的约定。将其视为像其他分类器库的架构中的“管道”可能没有帮助 - 因为没有一个内部接口使用这种语言或模块化布局。

具体来说，如果您了解 word2vec 训练的要点，FastText 分类器模式实际上只是用已知标签的尝试预测替换相邻（上下文窗口中）词汇的尝试预测。

为了了解 FastText 与其他技术的关系，以及进一步扩展的潜在方面，我认为还需要复习一下：

这篇持怀疑态度的博文将 FastText 与更早的“vowpal wabbit”工具进行了比较："Fast & easy baseline text categorization with vw"
Facebook 为更通用的分类或数值任务讨论了此类向量训练的扩展，"StarSpace"

【讨论】：