Tensorflow 中的可微操作列表答案

【问题标题】：List of Differentiable Ops in TensorflowTensorflow 中的可微操作列表
【发布时间】：2021-01-05 03:34:02
【问题描述】：

是否存在可微分（即自动微分）的 Tensorflow 操作的主列表？

另外两种表达方式：

例如，我假设所有控制流操作都是不可区分的（例如，tf.where）。除了通过tf.gradients 手动运行它们以查看它们是否抛出LookupError 之外，我将如何找到它。

“常识”不是有效答案。

谢谢。

编辑：

tf.where 是可微的，所以我的直觉是错误的。也许这里的正确问题是 Tensorflow 中的哪些操作是不可区分的。

谢谢。

【问题讨论】：

【解决方案1】：

我已经使用 python 代码设计了可微和不可微操作的完整列表。

您将在此处找到精简列表。还有生成它的代码。

【讨论】：

【解决方案2】：

不，没有列表（您可以是第一个创建它的人）。另外据我所知，每个函数的文档也没有说明（tf.size 是不可微分的，但没有说明）。

除了您建议的方式外，您还可以从源代码中提取此数据。例如，所有实现渐变的操作，在方法声明前都有@ops.RegisterGradient。对于没有渐变的操作，您将拥有ops.NotDifferentiable(

不相关，但probably helpful。

【讨论】：

【解决方案3】：

看来，对于 TensorFlow 2，documentation for the tf.raw_ops module 中提供了这样的列表。

【讨论】：