如何将 OpenVINO IR 模型部署到英特尔 Movidius Myriadx VPU答案

【问题标题】：How to deploy OpenVINO IR model to Intel Movidius Myriadx VPU如何将 OpenVINO IR 模型部署到英特尔 Movidius Myriadx VPU
【发布时间】：2021-08-21 13:59:00
【问题描述】：

我搜索了一段时间，找不到任何有关将 OpenVINO IR 模型直接部署到英特尔的 MyriadX VPU 的文档。

我的理解是它们都来自英特尔，应该有办法做到这一点。

我可以尝试什么来解决这个问题？

【问题讨论】：

标签： intel openvino movidius intel-myriadx

【解决方案1】：

推荐的答案 Intel

用 MYRIAD 推断 IR，您可以为此目的使用OpenVINO official Samples。使用 -d MYRIAD 参数在 Myriad 上运行它。

别忘了安装插件。

这似乎和Github thread是同一个问题。

【讨论】：

您好，感谢您分享解决方案。但是我发现没有代码示例可以直接在 Python 的 VPU 上使用.blob 模型。能否提供文档中的代码？

【解决方案2】：

如果您阅读了我之前分享的文档，您会注意到 -h 参数将显示使用该 compile_tool 可以完成的所有操作。你会在那里得到答案。

运行compile_tool：compile_tool.exe -m "model_location\efficientdet-d0-tf\FP16\efficientdet-d0-tf.xml" -d MYRIAD -o "location_you_want_to_store_the_blob\blob_efficientdet\blob_filename_must_have.blob"

数据表/文档现在是您最好的朋友，请务必阅读并尝试理解它们。

另外需要注意的是，任何与 NCS2/MYRIAD/VPU 相关的东西都必须是 FP16 格式。

【讨论】：

您好，谢谢分享这个，但我不是问如何将 IR 模型编译成 blob 格式。是的，我确实运行了-h，发现有 FP32、F16、半格式和另一种格式。顺便说一句，compile_tool 那里有一个错误，我已经报告了它。它应该稍后修复。