使用 numpy 和 scipy 填充图像上的空白

Question

图片 (test.tif) 已附加。 np.nan 值是最白的区域。 如何使用一些使用邻居值的间隙填充算法来填充那些最白的区域？

import scipy.ndimage

data = ndimage.imread('test.tif')

Answer 1

正如其他人所建议的，可以使用 scipy.interpolate。但是，它需要相当广泛的索引操作才能使其正常工作。

完整示例：

from pylab import *
import numpy
import scipy.ndimage
import scipy.interpolate
import pdb

data = scipy.ndimage.imread('data.png')

# a boolean array of (width, height) which False where there are missing values and True where there are valid (non-missing) values
mask = ~( (data[:,:,0] == 255) & (data[:,:,1] == 255) & (data[:,:,2] == 255) )

# array of (number of points, 2) containing the x,y coordinates of the valid values only
xx, yy = numpy.meshgrid(numpy.arange(data.shape[1]), numpy.arange(data.shape[0]))
xym = numpy.vstack( (numpy.ravel(xx[mask]), numpy.ravel(yy[mask])) ).T

# the valid values in the first, second, third color channel,  as 1D arrays (in the same order as their coordinates in xym)
data0 = numpy.ravel( data[:,:,0][mask] )
data1 = numpy.ravel( data[:,:,1][mask] )
data2 = numpy.ravel( data[:,:,2][mask] )

# three separate interpolators for the separate color channels
interp0 = scipy.interpolate.NearestNDInterpolator( xym, data0 )
interp1 = scipy.interpolate.NearestNDInterpolator( xym, data1 )
interp2 = scipy.interpolate.NearestNDInterpolator( xym, data2 )

# interpolate the whole image, one color channel at a time    
result0 = interp0(numpy.ravel(xx), numpy.ravel(yy)).reshape( xx.shape )
result1 = interp1(numpy.ravel(xx), numpy.ravel(yy)).reshape( xx.shape )
result2 = interp2(numpy.ravel(xx), numpy.ravel(yy)).reshape( xx.shape )

# combine them into an output image
result = numpy.dstack( (result0, result1, result2) )

imshow(result)
show()

输出：

这会将我们拥有的所有值传递给插值器，而不仅仅是缺失值旁边的值（这可能效率低下）。它还插入输出中的 每个 点，而不仅仅是缺失值（效率极低）。更好的方法是仅插入缺失值，然后将它们修补到原始图像中。这只是一个快速入门的示例:)

Answer 2

我认为 viena 的 问题与 inpainting 问题更相关。

这里有一些想法：

• 为了填补黑白图像中的空白，您可以使用一些填充算法，例如scipy.ndimage.morphology.binary_fill_holes。但是你有一个灰度图像，所以你不能使用它。

• 我想您不想使用复杂的修复算法。我的第一个建议是：不要尝试使用最近的灰度值（你不知道 NaN 像素的真实值）。使用 Nearest 值将生成脏算法。相反，我建议您用其他值填补空白（例如行的平均值）。您无需编码即可使用scikit-learn：

Source:

>>> from sklearn.preprocessing import Imputer
>>> imp = Imputer(strategy="mean")
>>> a = np.random.random((5,5))
>>> a[(1,4,0,3),(2,4,2,0)] = np.nan
>>> a
array([[ 0.77473361,  0.62987193,         nan,  0.11367791,  0.17633671],
   [ 0.68555944,  0.54680378,         nan,  0.64186838,  0.15563309],
   [ 0.37784422,  0.59678177,  0.08103329,  0.60760487,  0.65288022],
   [        nan,  0.54097945,  0.30680838,  0.82303869,  0.22784574],
   [ 0.21223024,  0.06426663,  0.34254093,  0.22115931,         nan]])
>>> a = imp.fit_transform(a)
>>> a
array([[ 0.77473361,  0.62987193,  0.24346087,  0.11367791,  0.17633671],
   [ 0.68555944,  0.54680378,  0.24346087,  0.64186838,  0.15563309],
   [ 0.37784422,  0.59678177,  0.08103329,  0.60760487,  0.65288022],
   [ 0.51259188,  0.54097945,  0.30680838,  0.82303869,  0.22784574],
   [ 0.21223024,  0.06426663,  0.34254093,  0.22115931,  0.30317394]])

• 使用 Nearest 值的 dirty solution 可以是： 1) 找到 NaN 区域的周长点 2) 计算 all NaN 点与周长之间的距离 3）用最近的点灰度值替换NaNs

Answer 3

如果你想要最近邻居的值，你可以使用来自 scipy.interpolate 的NearestNDInterpolator。还有other interpolators也可以考虑。

您可以使用以下方法找到 NaN 值的 X、Y 索引值：

import numpy as np

nan_locs = np.where(np.isnan(data))

还有其他一些插值选项。一种选择是用 median filter 的结果替换 NaN 值（但你的区域对于这个来说有点大）。另一个选项可能是grayscale dilation。正确的插值取决于您的最终域。

如果您之前没有使用过 SciPy ND 插值器，则需要提供 X、Y 和值数据以使插值器适合 X 和 Y 数据，以便在值处进行插值。您可以使用上面的 where 示例作为模板来执行此操作。

Answer 4

OpenCV 有一些您可以使用的图像修复算法。您只需要提供一个二进制掩码来指示哪些像素应该被修复。

import cv2
import numpy as np
import scipy.ndimage

data = ndimage.imread("test.tif")
mask = np.isnan(data)
inpainted_img = cv2.inpaint(img, mask, inpaintRadius=3, flags=cv2.INPAINT_TELEA)