强制依赖变量更新

Question

假设我有一些函数f 的变量x：

x = tf.Variable(1.0)
fx = x*x

还有一个更新x的操作：

new_x = x.assign(2.0)

我想从更新的x 中获取f 的值。本来以为

with tf.control_dependencies([new_x,]):
    new_fx = tf.identity(fx)    

会强制 new_fx 依赖更新 new_x，但情况似乎并非如此：

init = tf.initialize_all_variables()
sess = tf.Session()
sess.run(init)

# prints 1.0, expected 4.0
print "new fx", sess.run(new_fx)

还有其他方法可以定义fx 的更新值吗？

显然，我可以通过编写 new_fx = new_x * new_x 之类的内容来创建一个新的独立副本，但这会扩大图形大小，并且还需要访问 fx 的定义，我更愿意将其视为黑盒。

编辑：为了激发这一点，这是我要编写的代码草图：

# Hamiltonian Monte Carlo update, simplified
def hmc_step(x, momentum, logpdf, n_steps=50): 
    # x and momentum are Variables
    # logpdf is a Tensor with potentially complicated dependence on x

    grad = tf.gradients(logpdf, x)[0]

    # initial position        
    new_x = x

    for i in range(n_steps):
        # update position
        new_x = x.assign(new_x + momentum)

        # update momentum using gradient at *current* position
        with tf.control_dependencies([new_x]):
             momentum = momentum + grad # DOESN'T WORK

        # DOES WORK BUT IS UGLY
        # new_logpdf = define_logpdf(new_x)
        # new_grad = tf.gradients(new_logpdf, new_x)[0]
        # momentum = momentum + new_grad

    # (do some stuff to accept/reject the new x)
    # ....

    return new_x

每次通过循环定义一个新的 logpdf 副本并重新导出梯度感觉真的很不雅：它需要访问 define_logpdf() 并将图形大小扩大 50 倍。有没有更好的方法来做到这一点（除了一些等价的 theano.scan）？

Answer 1

with tf.control_dependencies([op]) 块将控制依赖于 op 到 with 块内的其他操作创建。在您的情况下，x*x 是在外部创建的，而 tf.identity 只是获取旧值。这就是你想要的：

with tf.control_dependencies([new_x,]):
  new_fx = x*x