聊天机器人的 Seq2Seq 模型

Question

我正在构建一个聊天机器人，它具有序列到序列编码器解码器模型，如NMT。从给定的数据中，我可以理解，在训练时，它们将解码器输出与编码器单元状态一起馈送到解码器输入中。我无法弄清楚当我实际实时部署聊天机器人时，我应该如何输入解码器，因为那时我必须预测输出。有人可以帮我解决这个问题吗？

Answer 1

确切的答案取决于您从Neural Machine Translation model (NMT) 中获取哪些构建块，以及您将用自己的构建块替换哪些构建块。我假设图结构与 NMT 中的完全一样。

如果是这样，在推理时，您可以只向解码器提供一个零向量。

---

内部细节：NMT 使用名为Helper 的实体来确定解码器中的下一个输入（参见tf.contrib.seq2seq.Helper 文档）。

特别是，tf.contrib.seq2seq.BasicDecoder 在执行步骤时仅依赖于 helper：输入到后续单元格的 next_inputs 正是 Helper.next_inputs() 的返回值。

Helper接口有不同的实现，例如，

• tf.contrib.seq2seq.TrainingHelper 正在返回下一个解码器输入（通常是基本事实）。如the tutorial 所示，此助手用于训练。
• tf.contrib.seq2seq.GreedyEmbeddingHelper 丢弃输入，并从先前的输出返回 argmax 采样标记。当sampling_temperature 超参数为 0 时，NMT 会使用此帮助器进行推理。
• tf.contrib.seq2seq.SampleEmbeddingHelper 做同样的事情，但根据 categorical（又名广义伯努利）分布对令牌进行采样。当sampling_temperature > 0 时，NMT 会使用这个助手进行推理。
• ...

代码在BaseModel._build_decoder 方法中。 请注意，GreedyEmbeddingHelper 和 SampleEmbeddingHelper 都不关心解码器输入是什么。所以事实上你可以喂任何东西，但零张量是标准选择。