【发布时间】:2018-10-22 15:13:13
【问题描述】:
我不确定为什么我们只有大小为 32 的输出向量,而有 LSTM 100?
我很困惑的是,如果我们只有 32 个词向量,如果提取到 LSTM 中,32 个 LSTM 应该足够大来容纳它吗?
Model.add(Embedding(5000,32)
Model.add(LSTM(100))
【问题讨论】:
标签: python nlp keras keras-layer
我不确定为什么我们只有大小为 32 的输出向量,而有 LSTM 100?
我很困惑的是,如果我们只有 32 个词向量,如果提取到 LSTM 中,32 个 LSTM 应该足够大来容纳它吗?
Model.add(Embedding(5000,32)
Model.add(LSTM(100))
【问题讨论】:
标签: python nlp keras keras-layer
这些是模型的超参数,没有实验就没有最好的方法来设置它们。在您的情况下,将单个单词嵌入到维度为 32 的向量中可能就足够了,但是 LSTM 将处理它们的序列,并且可能需要更多容量(即维度)来存储有关多个单词的信息。在不知道目标或数据集的情况下,很难对这些参数进行有根据的猜测。我们经常查看过去解决类似问题的研究论文,看看他们使用了哪些超参数,然后通过实验对其进行调整。
【讨论】: