在图像中查找RGB颜色的边界框

Question

我正在使用页面分割算法。代码的输出写入一个图像，每个区域的像素分配一个唯一的颜色。我想处理图像以找到区域的边界框。我需要找到所有颜色，然后找到该颜色的所有像素，然后找到它们的边界框。

以下是示例图片。

我目前正在开始使用R，G，B通道的直方图。直方图告诉我数据位置。

img = Image.open(imgfilename)
img.load()
r,g,b = img.split()

ra,ga,ba = [ np.asarray(p,dtype="uint8") for p in (r,g,b) ]

rhist,edges = np.histogram(ra,bins=256)
ghist,edges = np.histogram(ga,bins=256)
bhist,edges = np.histogram(ba,bins=256)
print np.nonzero(rhist)
print np.nonzero(ghist)
print np.nonzero(bhist)

输出： （数组（[0,1,128,205,255]），） （数组（[0,20,128,186,255]），） （array（[0,128,147,150,255]），）

此时我有点沮丧。通过目视检查，我有颜色（0,0,0），（1,0,0），（0,20,0），（128,128,128）等。我应该如何将非零输出置换为np.where（）的像素值？

我正在考虑将3行row col格式展平为24位打包RGB值的二维平面（r <24 | g <16 | b）并搜索该阵列。这似乎是蛮力和不优雅。在Numpy中有更好的方法来找到颜色值的边界框吗？

Answer 1

没有理由将其视为RGB彩色图像，它只是其他人所做分割的可视化。您可以轻松地将其视为灰度图像，对于这些特定颜色，您不必自己做任何其他事情。

import sys
import numpy
from PIL import Image

img = Image.open(sys.argv[1]).convert('L')

im = numpy.array(img) 
colors = set(numpy.unique(im))
colors.remove(255)

for color in colors:
    py, px = numpy.where(im == color)
    print(px.min(), py.min(), px.max(), py.max())

如果您不能依赖convert('L')提供独特的颜色（即，您使用的颜色超出了给定图像中的颜色），您可以打包图像并获得独特的颜色：

...
im = numpy.array(img, dtype=int)

packed = im[:,:,0]<<16 | im[:,:,1]<<8 | im[:,:,2]
colors = set(numpy.unique(packed.ravel()))
colors.remove(255<<16 | 255<<8 | 255)

for color in colors:
    py, px = numpy.where(packed == color)
    print(px.min(), py.min(), px.max(), py.max())

顺便说一句，我还建议在找到边界框之前删除小的连接组件。

Answer 2

编辑使用您发布的图片将所有内容整合到一个正在运行的程序中：

from __future__ import division
import numpy as np
import itertools
from PIL import Image

img = np.array(Image.open('test_img.png'))

def bounding_boxes(img) :
    r, g, b = [np.unique(img[..., j]) for j in (0, 1, 2)]
    bounding_boxes = {}
    for r0, g0, b0 in itertools.product(r, g, b) :
        rows, cols = np.where((img[..., 0] == r0) &
                              (img[..., 1] == g0) &
                              (img[..., 2] == b0))
        if len(rows) :
            bounding_boxes[(r0, g0, b0)] = (np.min(rows), np.max(rows),
                                            np.min(cols), np.max(cols))
    return bounding_boxes

In [2]: %timeit bounding_boxes(img)
1 loops, best of 3: 30.3 s per loop

In [3]: bounding_boxes(img)
Out[3]: 
{(0, 0, 255): (3011, 3176, 755, 2546),
 (0, 128, 0): (10, 2612, 0, 561),
 (0, 128, 128): (1929, 1972, 985, 1438),
 (0, 255, 0): (10, 166, 562, 868),
 (0, 255, 255): (2938, 2938, 680, 682),
 (1, 0, 0): (10, 357, 987, 2591),
 (128, 0, 128): (417, 1873, 984, 2496),
 (205, 186, 150): (11, 56, 869, 1752),
 (255, 0, 0): (3214, 3223, 570, 583),
 (255, 20, 147): (2020, 2615, 956, 2371),
 (255, 255, 0): (3007, 3013, 600, 752),
 (255, 255, 255): (0, 3299, 0, 2591)}

即使实际检查的颜色数量很少，也不是很快......

---

您可以找到颜色r0，g0，b0的边界框，其中包含

的内容

rows, cols = np.where((ra == r0) & (ga == g0) & (ba == b0))
top, bottom = np.min(rows), np.max(rows)
left, right = np.min(cols), np.max(cols)

不是迭代RGB颜色的所有2**24组合，而是仅使用非零直方图区间的笛卡尔积来大大减少搜索空间：

for r0, g0, b0 in itertools.product(np.nonzero(rhist),
                                    np.nonzero(ghist),
                                    np.nonzero(bhist)) :

您将泄漏不存在的组合，您可以过滤掉rows和cols不是空元组的检查。但在您的示例中，您可以将2**24组合的搜索空间缩小到仅为125。

Answer 3

这只是我头脑中的一个解决方案。您可以从左上角到右下角迭代图像中的像素，并为每种颜色保存top，bottom，left和right值。对于给定的颜色，top值将是您使用此颜色看到的第一行，bottom将是最后一个原始值，left值将是像素的最小列值此颜色和right是您找到的最大列值。

然后，对于每种颜色，您可以从top-left到bottom-right以所需颜色绘制一个矩形。

我不知道这是否有资格作为一个好的边界框算法，但我想这没关系。