TensorFlow 中带有权重参数的层的输出

Question

TensorFlow 中有没有一种方法可以在指定权重的同时计算层的输出，例如 y = layer(x, weights=w)？

最终目的是计算权重的某些函数的梯度，$w \mapsto layer(x, weights = f(w))$，但自动微分似乎不适用于layer.set_weights。

Answer 1

要更新变量，您必须使用它们的.assign 函数。有关详细信息，请参阅https://www.tensorflow.org/api_docs/python/tf/Variable。您也绝对可以将权重传递给图层。您稍后需要通过子类化tf.keras.layers.Layer 创建自定义。详情请见https://www.tensorflow.org/tutorials/customization/custom_layers。