Torch，如何在批量优化期间获得损失值的张量

Question

我正在训练一个对我的训练集进行批量优化的网络，我想获得一个包含我的每个训练示例的损失的损失向量。

更具体地说，我正在使用大小为 64 的批次中的图像（大小为 3x64x64）。因此我的输入是大小为 64x3x64x64 的张量。

在训练时我写作

output = net:forward(input)
loss = criterion:forward(input, target)

loss 是一个数字，但我想获得一个张量（大小为 64），在我的批次中每个图像都有一个条目，对应于这个精确图像的损失值。

有没有办法在我的输入张量的第一个维度上循环？

Answer 1

forward 方法调用另一个方法，updateOutput 方法，它可以被覆盖。 例如，在MSECriterion() 的情况下，您可以通过注释对THNN 库的调用来更改方法，并自行编写您希望标准如何发挥作用，即进行正常的元素减法然后平方（再次元素明智）并除以数据点的总数（再次元素明智）；然后将输出作为张量返回。

在导航到 nn 文件夹后使用luarocks make rocks/[the scm file in the folder] 更改此包后，您还需要重新编译 nn 包。