如何在 Keras 中实现 1-sigmoid？

Question

因为我想实现一个类似于 GRU 的更新门的结构：

h_t = (1-z_t)h_t-1 + z_th_t

我正在尝试使用这些代码来实现它，但它不起作用。我确定问题出在以下代码中：

one = K.ones(shape=(1, len, 128))
zt=Subtract([one,zt])
temp_conv2=multiply([reset_conv,zt])
output=Add([temp_conv1,temp_conv2])

我有以下错误：

AttributeError:'Tensor' 对象没有属性 '_keras_history'

我已经尝试了一些其他方法，例如使用Lambda层，但它不起作用。

Answer 1

one 不是 Keras 张量，因此您会收到该错误。您可以将其包装在 Lambda 层中：

zt = Lambda(lambda x: Subtract([K.ones(shape=(1, len, 128)), x]))(zt)

即使你不需要构造一个张量。只需使用1-x:

zt = Lambda(lambda x: 1-x)(zt)

它将被自动广播，并且减法将是元素方面的。