【发布时间】：2019-06-18 08:01:54
【问题描述】：
word2vec、glove 和 elmo 有什么区别？根据我的理解，它们都是用来训练词嵌入的，对吗？
【问题讨论】：
标签： nlp word2vec word-embedding glove elmo
【发布时间】：2019-06-18 08:01:54
【问题描述】：
**是的，它们都是训练词嵌入的两种方法。它们都提供了相同的核心输出：每个词一个向量，向量的排列很有用——相对距离/方向大致符合我们对整体词相关性的想法，甚至是某些显着语义维度上的相关性。
Word2Vec 通过反复迭代训练语料库对神经网络进行增量“稀疏”训练。
GloVe 致力于拟合向量，以对从语料库构建的巨大单词共现矩阵进行建模。
使用相同的语料库，创建相同维度的词向量，并同样关注元优化，它们生成的词向量的质量将大致相似。 （当我看到有人自信地声称其中一个肯定更好时，他们经常将一种算法的一些调整/最佳情况使用与另一种算法的一些粗略/任意默认值进行比较。）
我对 Word2Vec 更熟悉，我的印象是 Word2Vec 的训练可以更好地扩展到更大的词汇表，并且具有更多可调整的设置，如果你有时间，可能允许将你自己训练的词向量更多地调整为你的特定申请。
除非将它们相互比较，否则您可能不会同时使用它们，因为它们在词向量的任何下游应用程序中扮演着相同的角色。**
【讨论】：
-
你应该链接到源评论 (stackoverflow.com/a/56072207/5454389) 而不是把它当作你自己的。