【发布时间】：2021-06-17 12:06:18
【问题描述】：
我将我的自定义 yolov3 模型转换为 onnx，然后将 onnx 转换为 Jetson nano 上的 tesnsorrt 模型，预测图像需要 0.2 秒，我在视频上尝试过它，它只给出 3 fps 有什么办法可以增加这一点。
【问题讨论】：
【发布时间】：2021-06-17 12:06:18
【问题描述】：
您可以使用 FP16 推理模式代替 FP32，并将推理速度提高 2 倍左右。另一种选择是使用更大的批量，我不确定它是否适用于 Jetson Nano，因为它有资源限制。 你可以找到有用的脚本和讨论here
【讨论】：