张量流中的图形循环

Question

我的印象是张量流图是有向无环图。然而，在探索https://github.com/nilboy/tensorflow-yolo 生成的（相当大的）图表时，我偶然发现了图表中的一个循环：

 1. gradients/b_count_62:0 -> gradients/b_count_62
 2. gradients/b_count_62 -> gradients/GreaterEqual_15:0
 3. gradients/GreaterEqual_15:0 -> gradients/GreaterEqual_15
 4. gradients/GreaterEqual_15 -> gradients/Merge_31:0, gradients/GreaterEqual_15/Enter:0
 5. gradients/Merge_31:0 -> gradients/Merge_31
 6. gradients/Merge_31 -> gradients/b_count_61:0, gradients/NextIteration_31:0
 7. gradients/NextIteration_31:0 -> gradients/NextIteration_31
 8. gradients/NextIteration_31 -> gradients/Sub_15:0
 9. gradients/Sub_15:0 -> gradients/Sub_15
10. gradients/Sub_15 -> gradients/Switch_31:1, gradients/GreaterEqual_15/Enter:0
11. gradients/Switch_31:1 -> gradients/Switch_31
12. gradients/Switch_31 -> gradients/Merge_31:0, gradients/b_count_62:0 (loop, references line 5 and line 1)

哪些操作支持上述循环，这些循环是如何创建的（来自 python），以及在会话中运行时这些循环的语义是什么？

Answer 1

它们由tf.while_loop创建，语义遵循分布式while循环的经典数据流原语，“TensorFlow：大规模机器学习系统”（link）的第3.4节有一些参考