请问模型转换后,模型的准确率是否保持不变,还是会有损失?感谢告知
There will be little loss in precision due to conversion from float to int8
Expect 2-3% reduction
@penggeng 会有损失,NPU是用整型做运算的,和GPU这种主用浮点型的不一样.转换时浮点预算转换成整数运算肯定是会有一个近似转换在的.至于损失会有多少,要看你模型的优化程度,和模型本身使用了多少的浮点运算.
@Frank我目前使用的模型是yolov3,您们官方demo也使用的这个模型,对这个模型您们应该测试过,转换前后识别准确率大概降低多少?上面 Archangel1235给出的答案准确吗?非常感谢您的再次回答
我使用YoloV3模型,在电脑使用时,所有类别均可识别ok,但是转换后,出现个别类别一直无法识别的情况,请问有遇到相关问题的吗?可以相互交流一下开发经验。
我目前使用yolov3检测的object只有45个类,在没有转换前模型优化的比较好,转换后暂时没有遇到漏检的情况,目前只有精度降低后,出现误检的情况