【问题标题】:How does tensorflow implement the embedding_column?tensorflow如何实现embedding_column?
【发布时间】:2017-07-05 12:32:42
【问题描述】:

这几天在学习 tensorflow 的 wide_n_deep_tutorial,对 tf.contrib.layers.embedding_column 有点困惑。我想知道tensorflow是如何实现embedding列的?

例如,假设我有一个维度为 1000 的稀疏输入,我想将其嵌入到维度为 10 的密集特征中。它是否拥有一个具有 1000*10 参数的全连接网络并使用 BP 进行训练以更新参数?或者它是否使用了其他一些技术,例如 FM,将 1000 暗向量映射到 10 暗向量?

【问题讨论】:

    标签: tensorflow embedding


    【解决方案1】:

    embedding_column 函数中有 3 个组合器:

    “sum”:不归一化 "mean": 做 l1 归一化 “sqrtn”:做 l2 归一化。查看更多 tf.embedding_lookup_sparse

    没有使用FM来调制/变换维度。

    【讨论】:

      猜你喜欢
      • 2018-08-19
      • 1970-01-01
      • 2017-12-17
      • 2021-06-04
      • 1970-01-01
      • 1970-01-01
      • 2019-02-22
      • 1970-01-01
      • 2018-01-12
      相关资源
      最近更新 更多