确保编码器-解码器文本生成深度学习模型中存在单词/标记/名词答案

【问题标题】：Ensure the presence of a word/token/noun in Encoder-Decoder text generation deep learning models确保编码器-解码器文本生成深度学习模型中存在单词/标记/名词
【发布时间】：2019-01-24 04:32:26
【问题描述】：

我遇到了一个问题，我想确保在解码和生成抽象风格的句子时生成特定的标记/单词。

我正在使用 LSTM 和 Transformer 模型等深度学习模型来生成短句（100-200 个字符）。我希望在生成的文本中出现一些像地方或名词（如品牌名称）这样的词。

我不确定是否有这方面的研究，经过广泛搜索后，我真的找不到一篇论文。

TIA，感谢您提供任何线索或建议。 :)

【问题讨论】：

你能展示你的模型架构吗？
现在，它是基本的 seq2seq 编码器-解码器模型。 LSTM 编码输入，另一个 LSTM 解码输出。

标签： nlp deep-learning lstm transformer encoder-decoder

【解决方案1】：

我不确定，但您可以尝试根据这些特定单词调整输出。你的训练器可以像一个 seq2seq 解码器，但它可以关注那些特定的单词，而不是关注编码器的输出。

【讨论】：