手套中的 N-gram

Question

我想使用 GloVe 为文档构建词嵌入。我知道如何获取单个单词（unigrams）的向量嵌入，如下所示（对于他们的示例文本文档）。

$ git clone http://github.com/stanfordnlp/glove
$ cd glove && make
$ ./demo.sh

现在，我想获得二元组的向量嵌入。例如；

1. “New york” -> 代替“New”和“york”
2. “机器学习”->而不是“机器”和“学习”

是否可以在 GloVe 中进行？如果是，怎么做？

Answer 1

我认为他们没有可用的二元向量，但您可以通过预处理语料库自己生成它们。例如，如果您的语料库中的文档如下所示：

GloVe is love

你可以这样格式化：

START_GloVe GloVe_is is_love love_END

像往常一样在这个语料库上训练一组嵌入。你也可以看看 Word2vec，就像在 this post 中一样。