下面是openvino cpu、集成显卡、神经棒的性能:
使用openvino的时候,你的模型一般都是.pt等等格式,可以先转为onnx格式,再基于ModelOptimizer转为IR格式(xml +bin);
另外,模型优化器还能优化网络结构(水平、垂直融合,添加、删除一个or 多个层)
openvino提供了各种预训练模型,如下图:
性能测试:
如果你想测某一层的性能耗时,可以使用一下指令:
DL workBench用于可视化模型各项性能指标。
标签:openvino,模型,概述,格式,转为,性能 From: https://www.cnblogs.com/feiyull/p/15474329.html