translate.py 不使用嵌入？

Question

我试图了解 tensorflow 中的 lstm-with-attention 脚本： https://tensorflow.googlesource.com/tensorflow/+/master/tensorflow/models/rnn/translate

这不使用嵌入，即使它调用了 embedding_rnn_seq2seq，但输入到这个调用中的只是标量词 ID，而不是任何类型的嵌入向量。

至少我找不到嵌入参数，也找不到矩阵，也找不到提供预训练嵌入的可能性。任何想法？谢谢一堆

Answer 1

translate.py 中的代码确实使用了嵌入，但它的创建被深埋在实现中。该模型使用（未记录的）tf.nn.seq2seq.embedding_attention_seq2seq() 函数，该函数在内部创建嵌入矩阵的 creates tf.nn.rnn_cell.EmbeddingWrapper。