1.忠告
1. 昇腾是昇腾,海思是海思!!尽管兄弟俩的解决方案相似度百分之九十五,但是能不能成功就看那百分之五,所以忘掉昇腾的一切,从海思文档一点点做起。
2. 文档很重要,文档内容较多,顺序跟重要。
3. 多试验
2.大概流程
终极目的: pytorch的xxx.path---> 昇腾的xxx.om
1.修改网络结构。主要目的配合海思的支持的onnx 算子清单。可以参考3519 需要修改的文档。
2.实现pytorch-->onnx
3.简化 onnx
4.amtc 量化模型(int8)(昇腾表示可以不用量化,因为精度损失多但是速度收益不理想。个人建议必须量化)
5.atc 模型转换
3.主要坑位
1.不要安装昇腾官网的任何东西(后期有可能环境冲突)
2.所有工具都要安装厂家提供的版本。
3.遵循开发文档按步骤进行。
4.出现问题多试验。可以结合文档中案例里的resnet 并查看文档有没有漏掉的细节。
5.即使不做部署工作也要了解ACL的工作流程。
6. 不要尝试 onnx ---> caffe --->om !!!!!
7. 量化时 参考resnet 例子 生成 bin文件作为校准数据使用。
8. 量化校准非常吃内存 初始选择机器时选个大内存的最起码16G起步。
标签:坑记,yolov5,onnx,---,3403,文档,量化,海思
From: https://www.cnblogs.com/ryzemagic/p/17143874.html