使用opencv-python和yolov3循环net.forward（outputLayers）的结果时如何提高性能

Question

我在 Ubuntu 20.04 上使用 Python 3.8.10、OpenCV 版本 4.3.0 和 Cuda 10.2。我使用 Yolov3 为我想在图像中检测的 23 个对象生成了一个权重文件。一切正常，我可以在 Python 中围绕检测置信度高于某个阈值的对象绘制漂亮的框。

但是，循环通过由提供的所有输出需要半秒以上

outputs = net.forward(outputLayers)

当过滤高于某个置信水平的结果时。

这是我的循环：

boxes = []
confs = []
class_ids = []

for output in outputs: 
     for detect in output:
            scores = detect[5:]
            class_id = np.argmax(scores)
            conf = scores[class_id]
            if conf > 0.7:
                center_x = int(detect[0] * width)
                center_y = int(detect[1] * height)
                w = int(detect[2] * width)
                h = int(detect[3] * height)
                x = int(center_x - w/2)
                y = int(center_y - h / 2)
                boxes.append([x, y, w, h])
                confs.append(float(conf))
                class_ids.append(class_id)

需要这么长时间的原因是输出的大小。似乎在调用net.forward(outputLayers) 时返回了所有可能的检测结果，无论置信度如何。就我而言，这些是我必须循环遍历的 30000 多个元素。

有什么方法可以在模型仍驻留在 GPU 上的情况下排除低于某个置信水平的检测？据我所知，net.forward() 似乎不允许任何过滤。任何想法将不胜感激！

Answer 1

我找不到减少net.forward() 输出数量的方法，但是the comment by Christoph Rackwitz 为我提供了一种非常令人满意的加速我的代码的方法。我没有循环输出 numpy 数组，而是应用了：

mask = (outputs[:,5:].max(axis=1) > 0.7)
outputs = outputs[mask]

在 3.8-06 秒内将我的输出大小从大约 30000 减少到 33。

Answer 2

为了提高您的性能，您可以尝试使用 net.forward(..) 仅检测您想要的 23 个对象，而不检测 YoloV3 with coco.names 检测器提供的所有 80 个对象。

如果您只想使用 YoloV3 列表检测 23 个特定对象，则有一个 specific section of the darkflow repo 说明如何更改输出。

注意：您应该重新训练您的模型。他们通过 3 个类的示例来展示这一点。

我相信answer here会更有帮助，但不是1个特定的类，只需根据步骤将其调整为23个对象即可。