Tensorflow：切片数据并将卷积应用于每个切片

Question

我有一个 3D 量的输入数据，想对每个切片应用一个 ConvNet。

这个问题有一个重复。遗憾的是没有答案： How to slice a batch and apply an operation on each slice in TensorFlow

在 Keras 中，我会使用 TimeDistributed 层。 在 Tensorflow 中，我找不到直接的等价物。 相反，我觉得我必须自己对数据进行切片。

这是我目前的代码：

x=tf.placeholder(tf.float32, shape=[None, 40, 40, 40, 1])
slices=tf.split(0,40, x)

segmented_slices=[]

for slice in slices:
    # apply a ConvNet to each slice
    reshaped=tf.reshape(slice, (40, 40, 1))         #<-------second error
    # reshaped=tf.reshape(slice, (None, 40, 40, 1)) #<-------third error

    # segmented_slice=conv2d(slice, 3,1,32)         #<-------first error
    segmented_slice=conv2d(reshaped, 3,1,32)
    segmented_slice=conv2d(segmented_slice, 3,32,32)

    #... (more convolutions)

    segmented_slices.append(segmented_slice)

volume=tf.concat(0, segmented_slices)

基本布局是split -> ConvNet -> concat。 但是split 保留了维度。如果我只是将slice 传递给卷积，它会抱怨：

ValueError: Shape (?, 40, 40, 40, 1) must have rank 4

因此我添加了一个重塑。这确实减少了维度的数量。但显然它也削减了batch_size。和第一个错误信息相比，问号和前40个都没有了。

ValueError: Shape (40, 40, 1) must have rank 4

看来我需要将 batch_size 保持在 reshape 中。我试图在元组中添加None。这会产生另一个错误消息：

TypeError: Expected int32, got None of type '_Message' instead.

这是正确的方法吗？ 我应该自己处理吗？

Answer 1

如果 Keras TimeDistributed Layer 是你所需要的，我们来看看它是如何实现的：

input_length = input_shape[1] # assume 2nd dim is the one to slice
# ...
# Shape: (num_samples * timesteps, ...)
inputs = K.reshape(inputs, (-1,) + input_shape[2:])
y = self.layer.call(inputs)  # (num_samples * timesteps, ...)
# Shape: (num_samples, timesteps, ...)
output_shape = self.compute_output_shape(input_shape)
y = K.reshape(y, (-1, input_length) + output_shape[2:])

基本思想是重塑张量，使第一和第二维度（批处理和切片维度）折叠成一个。换句话说，每个“切片”都可以被认为是批次中的一个附加数据点。然后将任何计算应用于这个新的虚拟批次，并在最后重塑回原始形状。 所有这些操作都可以在 Tensorflow 中轻松实现。