Pytorch：如何从扁平化网络中解压/取回网络？

Question

我正在使用以下函数来扁平化网络：

#############################################################################
# Flattening the NET
#############################################################################
def flattenNetwork(net):
    flatNet = []
    shapes = []
    for param in net.parameters():
        #if its WEIGHTS
        curr_shape = param.cpu().data.numpy().shape
        shapes.append(curr_shape)
        if len(curr_shape) == 2:
            param = param.cpu().data.numpy().reshape(curr_shape[0]*curr_shape[1])
            flatNet.append(param)
        elif len(curr_shape) == 4:
            param = param.cpu().data.numpy().reshape(curr_shape[0]*curr_shape[1]*curr_shape[2]*curr_shape[3])
            flatNet.append(param)
        else:
            param = param.cpu().data.numpy().reshape(curr_shape[0])
            flatNet.append(param)
    finalNet = []
    for obj in flatNet:
        for x in obj:
            finalNet.append(x)
    finalNet = np.array(finalNet)
    return finalNet,shapes

上述函数将所有权重作为网络的numpy 列向量finalNet 和shapes（列表）返回。我想看看权重修改对预测准确性的影响。所以，我改变了权重。如何将此修改后的权重向量复制回原始网络？请帮忙。谢谢。

Answer 1

模型定义（其forward 函数）和参数配置（所谓的模型状态，可以使用state_dict 作为字典轻松访问）之间存在差异。

您可以获得模型的状态，就像您对实现 flattenNetwork 所做的那样。然而，几乎所有模型都无法恢复此操作（即，如果您只有权重和图层形状）。

现在，假设您仍然可以访问net。我的建议是直接使用net.state_dict()，修改它，然后使用load_state_dict 加载权重字典。这样，您将不必自己处理模型参数的序列化。