我意识到我不太明白调用 Keras 模型的 __call__、call 或 predict 方法之间的区别。
例如，我们有一个经过训练的 keras 模型。调用代码后：
# After training.
y_pred_1 = model(X_new)
y_pred_2 = model.call(X_new)
y_pred_3 = model.predict(X_new)
我预计y_pred_1、y_pred_2 和y_pred_3 都是一样的。
但事实证明它们并不相同。
你能解释一下区别吗？
【问题讨论】：
标签： tensorflow keras
只是为了补充答案，因为我也在寻找这个。当您需要为推理阶段指定模型的训练标志时，例如model(X_new, training=False)，当您有批量归一化层时，例如，predict 和predict_on_batch 在执行时都已经这样做了。
所以，model(X_new, training=False) 和 model.predict_on_batch(X_new) 是等价的。
predict 和 predict_on_batch 之间的区别在于，后者运行在单个批次上，而前者运行在一个数据集上，该数据集被分成多个批次，结果合并以产生最终的 numpy 预测数组。
除了@Dmitry Kabanov 提到的差异之外，这些函数会生成不同类型的输出，
__call__ 生成一个张量，predict 和 predict_on_batch 生成 numpy.ndarray，和
according to the documentation、__call__ 比 predict 函数更快，适用于小规模输入，即适合一批。
【讨论】：
除了@Dmitry Kabanov，它们很相似，但并不完全相同。如果您关心性能，则需要研究它们之间的关键差异。
| model.predict | model(x) |
|---|---|
| loops over the data in batches which means means that predict() calls can scale to very large arrays. | happens in-memory and doesn't scale |
| not differentiable | differentiable |
| use this if you just need the output value | use this when you need to retrieve the gradients |
| Output is NumPy value | Output is a Tensor |
| use this if you have batches of data to be predicted | use this for small dataset |
| relatively slower for small data | relatively faster for small data |
更详细的解释请查看Keras FAQs
【讨论】：
2021 年 12 月 18 日更新。请参阅下面@TFer2 的答案以获得更好和更全面的答案。
我自己的旧答案只发现数据类型的差异（tf.Tensor vs np.ndarray）
我的错，这是我的代码中的一个错误。
原来这三种方法没有本质区别。
唯一的区别是call 只接受张量，而其他两种方法也接受 NumPy 数组。
这是一个玩具代码，显示三个方法是相同的：
import numpy as np
import tensorflow as tf
model = tf.keras.Sequential(
[
tf.keras.layers.InputLayer(input_shape=(2, )),
tf.keras.layers.Dense(2),
]
)
model.compile(loss='mse')
W = model.trainable_variables[0]
W.assign(np.array([[1.0, 0.0], [0.0, 1.0]]).T)
input = np.array([[1.0, 2.0], [3.0, 4.0], ], dtype=np.float32)
print("__call__:")
print(model(input))
print("Call:")
print(model.call(tf.convert_to_tensor(input)))
print("Predict:")
print(model.predict(input))
【讨论】：
我认为当您使用其中一个特定层时会有所不同：DropOut() 和 BatchNormalization()。事实上，无论是在训练模式还是测试/评估模式下，这些层的作用都不同。
call() 和 predict() 之间的区别在于，call() 在训练模式下给出预测，predict() 在测试模式下给出预测。这两者之间的区别在于，每次使用call() 与predict() 时，预测都不相同。训练和测试模式类似于Pytorch 库的训练和测试模式。
【讨论】：