如何从 bert 微调模型中获取嵌入？

【问题标题】：How to get embedding from bert finetuned model?如何从 bert 微调模型中获取嵌入？
【发布时间】：2020-09-17 01:51:26
【问题描述】：

我已经使用变压器和火炬微调了“bert-base-uncased”模型，它给了我 pytorch_model.bin、vocab.txt 和其他文件作为输出。加载模型后，我如何获得完整词汇的嵌入，例如将每个单词映射到其嵌入向量的矩阵

【问题讨论】：

【解决方案1】：

我推荐使用Huggingface，它们使它非常易于使用和训练所有 Transformer 模型变体。

要从 BERT 微调模型中获取嵌入，您可以使用 BertModel.set_input_embeddings()。

【讨论】：