【问题标题】:OpenVINO tensorflow model optimizer errorOpenVINO tensorflow 模型优化器错误
【发布时间】:2021-04-12 02:18:45
【问题描述】:

当我尝试将训练有素的 tensorflow 模型转换为 IR 时出现以下错误

模型优化器参数: 常用参数: - 输入模型的路径:无 - 生成的 IR 的路径:/home/ec2-user/Notebooks/。 - IR 输出名称:saved_model - 日志级别:错误 - 批次:未指定,继承自模型 - 输入层:未指定,继承自模型 - 输出层:未指定,继承自模型 - 输入形状:[1,512,512,3] - 平均值:未指定 - 比例值:未指定 - 比例因子:未指定 - 红外精度:FP32 - 启用融合:真 - 启用分组卷积融合:真 - 将平均值移动到预处理部分:无 - 反向输入通道:假 TensorFlow 具体参数: - 文本 protobuf 格式的输入模型:False - TensorBoard 模型转储的路径:无 - 具有 TensorFlow 自定义层实现的共享库列表:无 - 使用输入/输出节点名称更新配置文件:无 - 使用配置文件用于生成具有对象检测 API 的模型:无 - 使用配置文件:无 模型优化器版本:2021.1.0-1237-bece22ac675-releases/2021/1 2021-01-06 09:55:53.886652:W tensorflow/stream_executor/platform/default/dso_loader.cc:59] 无法加载动态库“libcudart.so.10.1”; dlerror:libcudart.so.10.1:无法打开共享对象文件:没有这样的文件或目录; LD_LIBRARY_PATH:/opt/intel/openvino_2021/data_processing/dl_streamer/lib:/opt/intel/openvino_2021/data_processing/gstreamer/lib:/opt/intel/openvino_2021/opencv/lib:/opt/intel/openvino_2021/deployment_tools/ngraph/ lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/external/hddl_unite/lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/external/hddl/lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/external/gna /lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/external/mkltiny_lnx/lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/external/tbb/lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/lib/英特尔64 2021-01-06 09:55:53.886685: I tensorflow/stream_executor/cuda/cudart_stub.cc:29] 如果您的机器上没有设置 GPU,请忽略上面的 cudart dlerror。 2021-01-06 09:55:57.571164:W tensorflow/stream_executor/platform/default/dso_loader.cc:59] 无法加载动态库“libcuda.so.1”; dlerror:libcuda.so.1:无法打开共享对象文件:没有这样的文件或目录; LD_LIBRARY_PATH:/opt/intel/openvino_2021/data_processing/dl_streamer/lib:/opt/intel/openvino_2021/data_processing/gstreamer/lib:/opt/intel/openvino_2021/opencv/lib:/opt/intel/openvino_2021/deployment_tools/ngraph/ lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/external/hddl_unite/lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/external/hddl/lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/external/gna /lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/external/mkltiny_lnx/lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/external/tbb/lib:/opt/intel/openvino_2021/deployment_tools/inference_engine/lib/英特尔64 2021-01-06 09:55:57.571198:W tensorflow/stream_executor/cuda/cuda_driver.cc:312] 调用 cuInit 失败:未知错误 (303) 2021-01-06 09:55:57.571216:我 tensorflow/stream_executor/cuda/cuda_diagnostics.cc:156] 内核驱动程序似乎没有在此主机上运行(ip-172-31-65-233.ec2.internal) : /proc/driver/nvidia/version 不存在 2021-01-06 09:55:57.571389: I tensorflow/core/platform/cpu_feature_guard.cc:142] 这个 TensorFlow 二进制文件使用 oneAPI 深度神经网络库 (oneDNN) 进行了优化,以在性能关键操作中使用以下 CPU 指令: AVX2 AVX512F FMA 要在其他操作中启用它们,请使用适当的编译器标志重建 TensorFlow。 2021-01-06 09:55:57.607790: I tensorflow/core/platform/profile_utils/cpu_utils.cc:104] CPU 频率:2999980000 Hz 2021-01-06 09:55:57.608150: I tensorflow/compiler/xla/service/service.cc:168] XLA 服务 0x3d4d800 已为平台主机初始化(这不保证会使用 XLA)。设备: 2021-01-06 09:55:57.608169:I tensorflow/compiler/xla/service/service.cc:176] StreamExecutor 设备 (0):主机,默认版本 2021-01-06 09:56:15.612182: I tensorflow/core/grappler/devices.cc:69] 符合条件的 GPU 数量(核心数 >= 8,计算能力 >= 0.0):0 2021-01-06 09:56:15.613446:我 tensorflow/core/grappler/clusters/single_machine.cc:356] 开始新会话 2021-01-06 09:56:16.010348: I tensorflow/core/grappler/optimizers/meta_optimizer.cc:816] 抓取器项目的优化结果:graph_to_optimize 2021-01-06 09:56:16.010388: I tensorflow/core/grappler/optimizers/meta_optimizer.cc:818] function_optimizer: 之后的图形大小:5850 个节点 (5149),13416 个边 (12708),时间 = 182.03ms。 2021-01-06 09:56:16.010397:I tensorflow/core/grappler/optimizers/meta_optimizer.cc:818] function_optimizer:图大小之后:5850 个节点 (0),13416 个边 (0),时间 = 88.009 毫秒。 2021-01-06 09:56:16.010404:I tensorflow/core/grappler/optimizers/meta_optimizer.cc:816] 抓取器项目的优化结果:__inference_Preprocessor_ResizeToRange_cond_false_12695_58123 2021-01-06 09:56:16.010409:我 tensorflow/core/grappler/optimizers/meta_optimizer.cc:818] function_optimizer:function_optimizer 什么也没做。时间 = 0.002 毫秒。 2021-01-06 09:56:16.010416:我 tensorflow/core/grappler/optimizers/meta_optimizer.cc:818] function_optimizer:function_optimizer 什么也没做。时间 = 0 毫秒。 2021-01-06 09:56:16.010422:I tensorflow/core/grappler/optimizers/meta_optimizer.cc:816] 抓取器项目的优化结果:__inference_Preprocessor_ResizeToRange_cond_true_12694_56958 2021-01-06 09:56:16.010428:我 tensorflow/core/grappler/optimizers/meta_optimizer.cc:818] function_optimizer:function_optimizer 什么也没做。时间 = 0.002 毫秒。 2021-01-06 09:56:16.010433:我 tensorflow/core/grappler/optimizers/meta_optimizer.cc:818] function_optimizer:function_optimizer 什么也没做。时间 = 0.001 毫秒。 [错误]无法推断节点“StatefulPartitionedCall/Preprocessor/ResizeToRange/cond”的形状或值。 [ 错误 ] 函数 __inference_Preprocessor_ResizeToRange_cond_true_12694_56958 未定义。 [错误]
[ 错误 ] 这可能是由于自定义形状推断函数 中的错误而发生的。 [错误]或者因为节点输入的值/形状不正确。 [ 错误 ] 或者因为输入形状不正确(嵌入到模型中或通过 --input_shape 传递)。 [ 错误 ] 使用 --log_level=DEBUG 运行模型优化器以获取更多信息。 [错误] 运行替换器“REPLACEMENT_ID”()期间发生异常:在“StatefulPartitionedCall/Preprocessor/ResizeToRange/cond”节点停止形状/值传播。 有关更多信息,请参阅模型优化器常见问题解答,问题 #38。 (https://docs.openvinotoolkit.org/latest/openvino_docs_MO_DG_prepare_model_Model_Optimizer_FAQ.html?question=38#question-38)

调试日志文件:[Debug_Log][1]

模型文件夹:[模型][2] [1]:https://drive.google.com/file/d/1VFlAW7C0RhmL-T1HrKwBMrvQzJNvCql7/view?usp=sharing [2]:https://drive.google.com/drive/folders/1kkbp9fAXXsiDeq583Z0tV95zIfbI9_-N?usp=sharing

【问题讨论】:

    标签: tensorflow openvino


    【解决方案1】:

    首先,请注意OpenVINO 仅支持这些操作系统

    Ubuntu 18.04.x 长期支持 (LTS),64 位

    CentOS 7.6,64 位(仅限目标)

    Yocto Project v3.0,64 位(仅适用于目标,需要修改)

    Windows 10

    Raspbian* Buster,32 位

    Raspbian* Stretch,32 位

    MacOS

    根据您的操作系统,确保您已正确设置 OpenVINO,并且您能够像 here 一样运行示例应用程序

    一旦你准备好了, 交叉检查您的 Tensorflow 拓扑,看看它是否在 here 上列出

    OpenVINO 支持其中列出的模型和拓扑。

    一旦你确定了,你就可以根据上面的指南进行下一步了。

    注意:请确保您已运行 setupvars 并且每次打开新终端时都能看到初始化消息。

    【讨论】:

    • 感谢您的回复。我使用的拓扑未在支持的拓扑下列出。
    猜你喜欢
    • 1970-01-01
    • 2020-02-23
    • 1970-01-01
    • 1970-01-01
    • 2019-05-29
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多