pytorch 仅调整缺少数据的某些权重

Question

我正在为一个经常遇到缺失数据的模型编写代码。 pytorch（或 tensorflow，因为我还没有编写代码，所以两者都可以）中是否有一个选项，以便只计算/更新现有数据的梯度和权重？实际上，这是从最大神经网络中提取更小的神经网络。

Answer 1

AFAIK 不可能按照您的要求去做。您可以做的是将所有 nan 设置为具有智能索引的其他内容：

给定

>>> x

    nan     -0.1
    nan     nan
[torch.FloatTensor of size 2x2]

>>> x != x

 1  0
 1  1
[torch.ByteTensor of size 2x2]

x[x != x] = 0

将所有nan 设置为零。

在考虑的选项中

• 一个不同于所有其他值的常量值（可能是 0？）。
• 另一个随机选择的记录中的值。
• 特征的平均值、中值或众数。
• 由另一个模型计算的估计值。