【问题标题】:Keras model.predict function giving input shape errorKeras model.predict 函数给出输入形状错误
【发布时间】:2018-08-14 19:19:47
【问题描述】:

我已经在 Tensorflow 中实现了通用句子编码器,现在我正在尝试预测句子的类别概率。我也在将字符串转换为数组。

代码:

if model.model_type == "universal_classifier_basic":
    class_probs = model.predict(np.array(['this is a random sentence'], dtype=object)

错误信息:

InvalidArgumentError (see above for traceback): input must be a vector, got shape: []
     [[Node: lambda_1/module_apply_default/tokenize/StringSplit = StringSplit[skip_empty=true, _device="/job:localhost/replica:0/task:0/device:CPU:0"](lambda_1/module_apply_default/RegexReplace_1, lambda_1/module_apply_default/tokenize/Const)]]

欢迎并高度赞赏任何线索、建议或解释。 谢谢你:)

【问题讨论】:

  • 请格式化和校对您的问题。
  • 感谢编辑

标签: python tensorflow machine-learning keras deep-learning


【解决方案1】:

这并不像您想的那么容易。通常模型需要一个整数向量作为输入。每个整数表示对应词在词汇表中的索引。例如

vocab = {"hello":0, "world":1}

如果你想给网络输入句子“hello world”,那么你应该按如下方式构建向量:

net_input = [vocab.get(word) for word in "hello world".split(" ")]

另请注意,如果您使用小批量训练网络,那么您还需要为要馈送到网络的向量添加额外的第一维。您可以使用 numpy 轻松做到这一点:

import numpy as np
net_input = np.expand_dims(net_input, 0)

这样,您的net_input 的形状为 [1, 2],您可以将其输入网络。

仍有一个问题可能会阻止您向网络提供这样的向量。在训练时,您可能已经为具有精确 len(30、40 个标记)的输入定义了一个占位符。在测试时,如果感觉不到整个句子的长度,则需要以填充句子为代价来匹配该大小,或者如果句子较长则将其剪掉。

您可以按如下方式截断或添加填充:

net_input = [old_in[:max_len] + [vocab.get("PAD")] * (max_len - len(old_in[:max_len])] for old_in in net_input]

这行代码在必要时将输入old_in[:max_len] 截断为可能的最大 len(请注意,如果 len 小于 max_len,python 不会做任何事情)并填充 max len 和实际 len 之间的差异(@ 987654327@) 带有填充令牌的插槽 (+ [vocab.get("PAD")])

希望这会有所帮助。

如果您不是这种情况,只需写下对答案的评论,我会尝试找出其他解决方案。

【讨论】:

  • 感谢您的解释
  • 没问题。你能把我的答案标记为最佳吗?如果我没有解决您的问题,请询问更多
  • 训练时,我们输入字符串,嵌入的 lambda 函数在推理时转换为向量非常相似,我们不应该输入句子的 vocab.get(word) 对吗?
  • 是的,您应该在训练中应用与推理相同的步骤
  • 但根据通用句子编码器,我们不需要将句子拆分为单词。默认情况下,它在编码器中包含的预处理步骤中执行。那么为什么我们需要创建词汇呢? OP中提到的句子不是有索引而不用分词吗?
猜你喜欢
  • 2017-10-15
  • 2017-03-01
  • 1970-01-01
  • 1970-01-01
  • 2018-08-15
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多