【问题标题】:LSTM Embedding output size and No. of LSTMLSTM Embedding 输出大小和 LSTM 数量
【发布时间】:2018-10-22 15:13:13
【问题描述】:

我不确定为什么我们只有大小为 32 的输出向量,而有 LSTM 100?

我很困惑的是,如果我们只有 32 个词向量,如果提取到 LSTM 中,32 个 LSTM 应该足够大来容纳它吗?

Model.add(Embedding(5000,32)
Model.add(LSTM(100)) 

【问题讨论】:

    标签: python nlp keras keras-layer


    【解决方案1】:

    这些是模型的超参数,没有实验就没有最好的方法来设置它们。在您的情况下,将单个单词嵌入到维度为 32 的向量中可能就足够了,但是 LSTM 将处理它们的序列,并且可能需要更多容量(即维度)来存储有关多个单词的信息。在不知道目标或数据集的情况下,很难对这些参数进行有根据的猜测。我们经常查看过去解决类似问题的研究论文,看看他们使用了哪些超参数,然后通过实验对其进行调整。

    【讨论】:

    • 谢谢澄清,实际上,它是来自 Keras 的预加载数据集电影评论 - from keras.datasets import imdb
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2017-07-27
    • 1970-01-01
    • 2020-06-03
    • 1970-01-01
    • 2018-09-24
    • 2023-03-21
    • 2020-04-27
    相关资源
    最近更新 更多